Vào hôm 11/1, Malaysia đã tạm thời chặn quyền truy cập vào chatbot Grok, do do công ty xAI của tỷ phú Elon Musk phát triển, sau khi xuất hiện nhiều lo ngại về việc công cụ này bị lạm dụng để tạo và lan truyền nội dung khiêu dâm, tục tĩu và phản cảm.
Theo thông tin từ Ủy ban Truyền thông và Đa phương tiện Malaysia (MCMC), quyết định trên được đưa ra sau các thông báo chính thức gửi tới X Corp và xAI LLC vào các ngày 3 và 8/1, yêu cầu triển khai biện pháp bảo vệ kỹ thuật nhằm ngăn chặn việc sử dụng sai mục đích nền tảng.
Cơ quan quản lý cho biết Grok đã nhiều lần bị lợi dụng để tạo ra các hình ảnh và nội dung mang tính khiêu dâm, khiếm nhã và xúc phạm nghiêm trọng, trong đó có các nội dung bị chỉnh sửa không có sự đồng ý của người liên quan.
Một số trường hợp còn liên quan đến phụ nữ và trẻ vị thành niên, bất chấp các cảnh báo và can thiệp trước đó của nhà chức trách.
MCMC nhấn mạnh lệnh đình chỉ mang tính tạm thời và được áp dụng như một biện pháp phòng ngừa trong bối cảnh khuôn khổ pháp lý và công tác quản lý đối với các nền tảng trí tuệ nhân tạo vẫn đang được hoàn thiện.
Việc hạn chế truy cập vào Grok sẽ được duy trì cho đến khi các biện pháp bảo vệ hiệu quả được triển khai đầy đủ, đặc biệt nhằm ngăn chặn nội dung gây hại liên quan đến phụ nữ và trẻ em.
Cơ quan này đồng thời kêu gọi công chúng chủ động báo cáo các nội dung vi phạm để hỗ trợ công tác giám sát và bảo đảm an toàn trên không gian mạng.
