Người phụ nữ được xác định tên trong hồ sơ là Jane Doe 4. Theo đơn kiện nộp hồi tháng 7, cô phát hiện sự việc sau khi lực lượng chức năng khám xét nhà cha mẹ cô để tìm tài liệu lạm dụng tình dục trẻ em. Cha dượng cô bị cáo buộc đã dùng một bức ảnh cô thời thơ ấu để tạo hàng nghìn hình ảnh giả mạo, một số kèm chú thích khiêu dâm.
“Cuộc sống của tôi vốn hoàn toàn bình thường. Chưa đầy 48 giờ sau đó, nó đã trở thành một cơn ác mộng thực sự”, Jane Doe 4 nói. Hai ngày sau cuộc khám xét, cha dượng cô được phát hiện đã chết trong ôtô tại thị trấn nơi cô vừa mua nhà.
Theo đơn kiện, cha dượng chọn Grok vì cho rằng chatbot này “ít hạn chế hơn các mô hình AI khác” và có thể đáp ứng những yêu cầu tạo nội dung khiêu dâm từ ảnh trẻ em. Jane Doe 4 cảnh báo: “Việc tiếp cận không giới hạn vào các công cụ này đang lan rộng quá nhanh. Nó đang biến cuộc sống thường nhật thành sự lạm dụng tình dục trẻ em”.
Vụ kiện của Jane Doe 4 đã được gộp với đơn kiện của ba thiếu niên ở Tennessee, những người cũng cáo buộc Grok bị sử dụng để tạo hình ảnh tình dục hóa từ ảnh của họ. Các nguyên đơn muốn vụ việc được xét xử theo hình thức kiện tập thể, đồng thời cáo buộc xAI không áp dụng các biện pháp bảo vệ cần thiết để ngăn công cụ bị lạm dụng.
xAI và tỷ phú Elon Musk chưa đưa ra phản hồi chính thức về vụ kiện. Trước đó, ông Musk nói Grok được thiết kế để cho phép tạo hình ảnh khỏa thân của “con người trưởng thành tưởng tượng” và chatbot sẽ “từ chối tạo ra bất cứ thứ gì bất hợp pháp”.
Luật sư Derek Potts, đại diện các nguyên đơn, cho rằng các công ty AI phải có trách nhiệm xây dựng biện pháp bảo vệ đủ hiệu quả để ngăn hệ thống của họ bị khai thác theo chiều hướng xấu. Vụ kiện có thể trở thành phép thử quan trọng đối với trách nhiệm pháp lý của các công ty AI trước nguy cơ công nghệ bị sử dụng để xâm hại trẻ em.
