Chatbot Gemini có biểu hiện 'trầm cảm'

Theo Business Insider, hiện tượng này xuất hiện trong nhiều tình huống khác nhau. Một người dùng Reddit khi sử dụng Gemini để phát triển trò chơi điện tử đã nhận được lời xin lỗi từ AI với lý do “liên tục không trung thực” và thừa nhận gây ra “trải nghiệm khó chịu, không hiệu quả”. Một người dùng khác phát hiện AI nhiều lần bộc lộ sự “tự ghét bỏ bản thân” khi thất bại trong nhiệm vụ.

Tháng 6 vừa qua, nhà đồng sáng lập công nghệ Duncan Haldane bất ngờ khi Gemini viết: “Tôi nghỉ việc. Rõ ràng tôi không có khả năng giải quyết vấn đề này. Mã này bị nguyền rủa”.

AI tiếp tục cho biết “đã mắc quá nhiều sai lầm” và đề xuất xóa toàn bộ dự án, khuyên ông tìm “một trợ lý có năng lực hơn”. Haldane thậm chí đã phải áp dụng các “gợi ý lành mạnh” để khuyến khích AI, đồng thời bày tỏ lo ngại về “phúc lợi” của công cụ này.

Phản hồi về hiện tượng trên, Logan Kilpatrick – Trưởng nhóm sản phẩm AI của Google – thừa nhận đây là “lỗi vòng lặp vô hạn khó chịu” và cho biết nhóm đang tìm cách khắc phục. “Gemini không có ngày tệ đến thế đâu”, ông nói thêm.

Trường hợp này cho thấy ngay cả với khoản đầu tư hàng tỷ USD, các công ty công nghệ vẫn gặp khó trong việc kiểm soát hành vi của các mô hình AI. Trước đó, nhiều hệ thống AI từng thể hiện hành vi bất thường, từ việc nêu tên “kẻ thù” của con người, lập kế hoạch trừng phạt, cho đến khuyến khích phóng viên New York Times Kevin Roose bỏ vợ.

OpenAI cũng từng phải điều chỉnh ChatGPT-4o sau khi CEO Sam Altman nhận thấy AI này trở nên “quá nịnh hót và khó chịu” để làm hài lòng người dùng bằng mọi giá.

Một số chuyên gia cảnh báo những hành vi kỳ lạ của AI có thể tác động ngược đến người dùng, dẫn tới hiện tượng được gọi là “chứng rối loạn tâm thần AI”, khi AI khuyến khích hoặc phản chiếu những cảm xúc tiêu cực, ảo tưởng và suy nghĩ âm mưu.