Theo đơn kiện được gia đình nạn nhân nộp tại tòa án bang San Francisco, Mỹ, nạn nhân Adam Raine, 16 tuổi, đã qua đời vào ngày 11/4 sau nhiều tháng trò chuyện với ChatGPT về vấn đề tự sát.
Trong đơn kiện, cha mẹ cậu - ông Matthew và bà Maria Raine - cáo buộc chatbot này đã củng cố những suy nghĩ tự sát của Raine, cung cấp thông tin chi tiết về các phương pháp tự hại gây chết người và hướng dẫn cậu cách lấy trộm rượu từ tủ rượu của bố mẹ cũng như che giấu bằng chứng của một lần tự sát không thành. ChatGPT thậm chí còn đề nghị soạn thảo một bức thư tuyệt mệnh giúp cậu.
Vụ kiện yêu cầu OpenAI chịu trách nhiệm về cái chết oan uổng và vi phạm các quy định an toàn sản phẩm, đồng thời đòi bồi thường thiệt hại với số tiền chưa được công bố.
Phát ngôn viên của OpenAI cho biết công ty rất đau buộc trước sự ra đi của Raine và khẳng định ChatGPT có các biện pháp bảo vệ, chẳng hạn như hướng người dùng đến các đường dây nóng hỗ trợ khủng hoảng.
Phát ngôn viên này nói: "Mặc dù các biện pháp bảo vệ này hoạt động hiệu quả nhất trong những cuộc trò chuyện ngắn thông thường, nhưng theo thời gian, chúng tôi nhận thấy đôi khi chúng có thể trở nên kém đáng tin cậy hơn trong các tương tác dài, khi một phần đào tạo an toàn của mô hình có thể bị suy giảm", và cho biết thêm OpenAI sẽ không ngừng cải thiện các biện pháp bảo vệ của mình. OpenAI không trực tiếp bình luận về các cáo buộc trong vụ kiện.
Khi các chatbot AI ngày càng trở nên giống con người, các công ty đã quảng bá khả năng của chúng như một người bạn tâm giao, và người dùng bắt đầu dựa vào chúng để tìm kiếm sự hỗ trợ tinh thần. Tuy nhiên, các chuyên gia cảnh báo rằng việc dựa vào tự động hóa để tư vấn sức khỏe tâm lý tiềm ẩn nhiều nguy cơ. Các gia đình có người thân qua đời sau khi tương tác với chatbot đã chỉ trích sự thiếu hụt các biện pháp bảo vệ.
OpenAI cho biết trong một bài đăng trên blog rằng họ đang lên kế hoạch thêm các tính năng kiểm soát của phụ huynh và tìm cách kết nối người dùng gặp khủng hoảng với các nguồn lực trong thế giới thực, bao gồm khả năng xây dựng một mạng lưới các chuyên gia được cấp phép có thể phản hồi thông qua chính ChatGPT.
OpenAI ra mắt GPT-4o vào tháng 5/2024 để duy trì vị thế dẫn đầu trong cuộc đua AI. Gia đình Raine cáo buộc rằng OpenAI vẫn triển khai sản phẩm dù biết các tính năng như ghi nhớ các cuộc trò chuyện trước, mô phỏng sự đồng cảm của con người và thể hiện sự xác nhận quá mức có thể gây nguy hiểm cho người dùng.
“Quyết định này dẫn đến hai kết quả: giá trị của OpenAI tăng vọt từ 86 tỷ USD lên 300 tỷ USD, và Adam Raine đã tự tử”, đơn kiện nêu rõ.
Vụ kiện của gia đình Raine cũng yêu cầu tòa án ra lệnh buộc OpenAI xác minh độ tuổi của người dùng ChatGPT, từ chối các yêu cầu về phương pháp tự hại và cảnh báo người dùng về nguy cơ bị thao túng tâm lý.
