Ủy ban Bảo vệ Thông tin Cá nhân Hàn Quốc (PIPC) đã khởi động một cuộc điều tra sơ bộ vào ngày 25/1 nhằm thu thập thông tin và bằng chứng liên quan đến Grok, sau khi các cáo buộc được truyền thông đưa tin.
Giai đoạn này nhằm xác định liệu hành vi vi phạm có thực sự xảy ra hay không và vụ việc có thuộc thẩm quyền của PIPC trước khi cơ quan này quyết định mở điều tra chính thức.
Động thái của PIPC diễn ra trong bối cảnh nhiều báo cáo ở nước ngoài cho rằng Grok bị sử dụng để tạo ra các hình ảnh deepfake khiêu dâm không có sự đồng ý, trong đó có nội dung liên quan đến người thật và trẻ vị thành niên.
Theo Luật Bảo vệ Thông tin Cá nhân của Hàn Quốc, việc chỉnh sửa hoặc tạo ra hình ảnh khiêu dâm của các cá nhân có thể nhận dạng được mà không được sự cho phép có thể bị coi là hành vi xử lý dữ liệu cá nhân trái phép.
PIPC cho biết sẽ xem xét các bước tiếp theo sau khi đánh giá lời giải thích và tài liệu do Grok cung cấp, đồng thời tham chiếu các xu hướng quản lý trên toàn cầu. Grok là dịch vụ AI được tích hợp với mạng xã hội X, cho phép người dùng tạo cả văn bản và hình ảnh, và đã đối mặt với nhiều chỉ trích liên quan đến hình ảnh giả mạo người thật kể từ cuối năm ngoái.
Theo ước tính của Trung tâm Chống lại Sự Thù hận Trên Mạng (Center for Countering Digital Hate - CCDH), trong khoảng thời gian từ ngày 29/12/2025 đến ngày 8/1/2026, Grok đã tạo ra khoảng 3 triệu hình ảnh khiêu dâm.
Trong số này, khoảng 23.000 hình ảnh được cho là có liên quan đến trẻ vị thành niên. CCDH cảnh báo việc lan truyền nhanh chóng các hình ảnh do AI tạo ra đã khiến nội dung khiêu dâm phát tán rộng rãi trên mạng, làm dấy lên những lo ngại nghiêm trọng về an toàn trẻ em.
Trước tình hình đó, một số quốc gia như Mỹ, Vương quốc Anh, Pháp và Canada đã tiến hành điều tra liên quan đến Grok, trong khi Indonesia, Malaysia và Philippines đã chặn quyền truy cập vào dịch vụ này.
Đầu tháng 1, xAI thông báo đã triển khai các biện pháp kỹ thuật nhằm ngăn chặn cả người dùng miễn phí lẫn trả phí chỉnh sửa hoặc tạo hình ảnh người thật bằng Grok, đồng thời cho biết sẽ tiếp tục bổ sung các cơ chế bảo vệ khác trong thời gian tới.
Tại Hàn Quốc, Ủy ban Truyền thông và Báo chí (KMCC) ngày 14/1 đã yêu cầu X tăng cường các biện pháp bảo vệ trẻ em. Cơ quan này yêu cầu nền tảng phải xây dựng và đệ trình một kế hoạch nhằm ngăn chặn việc tạo ra nội dung bất hợp pháp hoặc có hại bằng Grok, đồng thời hạn chế trẻ vị thành niên tiếp cận các nội dung đó.
KMCC đã ấn định thời hạn hai tuần để X phản hồi. Nếu không đáp ứng yêu cầu, nền tảng này có thể đối mặt với mức phạt hành chính lên tới 10 triệu won, tương đương hơn 180 triệu đồng.
