Quyết định này được đưa ra khi công cụ bị chỉ trích dữ dội vì cho phép tạo ra các hình ảnh khiêu dâm và khỏa thân trái phép, nhắm vào cả phụ nữ và trẻ em.
Ban đầu, tính năng này được mở miễn phí với giới hạn nhất định. Tuy nhiên, nó nhanh chóng bị lạm dụng để biến đổi hình ảnh người khác thành các phiên bản khiêu dâm mà không có sự đồng thuận. Điều này dẫn đến sự lan tràn của những nội dung đồi trụy giả mạo nhắm vào trẻ em, người nổi tiếng và nhiều đối tượng khác, gây phẫn nộ trên khắp thế giới.
Trước tình hình đó, Grok vừa qua chỉ cho phép người dùng trả phí trên MXH X mới có thể tạo và chỉnh sửa ảnh, dù giới hạn này vẫn chưa áp dụng cho ứng dụng độc lập của Grok.
Đối mặt với scandal, cả X và Elon Musk đều lên án việc lạm dụng AI. Trên mạng xã hội, Musk tuyên bố cứng rắn: “Bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp”.
Tuy nhiên, áp lực từ các nước vẫn không ngừng gia tăng. Liên minh châu Âu (EU) đã yêu cầu xAI lưu trữ tài liệu liên quan để giám sát. Ấn Độ ra lệnh cho X phải thay đổi ngay lập tức để ngăn chặn lạm dụng, nếu không sẽ mất quyền bảo vệ "miễn trừ trách nhiệm". Trong khi đó, cơ quan quản lý truyền thông Vương quốc Anh cũng xác nhận đang làm việc với xAI về vấn đề này.
