Hàn Quốc điều tra Grok vì tạo và phát tán deepfake khiêu dâm

Ủy ban Bảo vệ Thông tin Cá nhân Hàn Quốc (PIPC) đã khởi động một cuộc điều tra sơ bộ vào ngày 25/1 nhằm thu thập thông tin và bằng chứng liên quan đến Grok, sau khi các cáo buộc được truyền thông đưa tin.

Giai đoạn này nhằm xác định liệu hành vi vi phạm có thực sự xảy ra hay không và vụ việc có thuộc thẩm quyền của PIPC trước khi cơ quan này quyết định mở điều tra chính thức.

Động thái của PIPC diễn ra trong bối cảnh nhiều báo cáo ở nước ngoài cho rằng Grok bị sử dụng để tạo ra các hình ảnh deepfake khiêu dâm không có sự đồng ý, trong đó có nội dung liên quan đến người thật và trẻ vị thành niên.

Theo Luật Bảo vệ Thông tin Cá nhân của Hàn Quốc, việc chỉnh sửa hoặc tạo ra hình ảnh khiêu dâm của các cá nhân có thể nhận dạng được mà không được sự cho phép có thể bị coi là hành vi xử lý dữ liệu cá nhân trái phép.

một bức ảnh đen trắng của từ grok
Ảnh minh họa: Unsplash

PIPC cho biết sẽ xem xét các bước tiếp theo sau khi đánh giá lời giải thích và tài liệu do Grok cung cấp, đồng thời tham chiếu các xu hướng quản lý trên toàn cầu. Grok là dịch vụ AI được tích hợp với mạng xã hội X, cho phép người dùng tạo cả văn bản và hình ảnh, và đã đối mặt với nhiều chỉ trích liên quan đến hình ảnh giả mạo người thật kể từ cuối năm ngoái.

Theo ước tính của Trung tâm Chống lại Sự Thù hận Trên Mạng (Center for Countering Digital Hate - CCDH), trong khoảng thời gian từ ngày 29/12/2025 đến ngày 8/1/2026, Grok đã tạo ra khoảng 3 triệu hình ảnh khiêu dâm.

Trong số này, khoảng 23.000 hình ảnh được cho là có liên quan đến trẻ vị thành niên. CCDH cảnh báo việc lan truyền nhanh chóng các hình ảnh do AI tạo ra đã khiến nội dung khiêu dâm phát tán rộng rãi trên mạng, làm dấy lên những lo ngại nghiêm trọng về an toàn trẻ em.

Trước tình hình đó, một số quốc gia như Mỹ, Vương quốc Anh, Pháp và Canada đã tiến hành điều tra liên quan đến Grok, trong khi Indonesia, Malaysia và Philippines đã chặn quyền truy cập vào dịch vụ này.

Đầu tháng 1, xAI thông báo đã triển khai các biện pháp kỹ thuật nhằm ngăn chặn cả người dùng miễn phí lẫn trả phí chỉnh sửa hoặc tạo hình ảnh người thật bằng Grok, đồng thời cho biết sẽ tiếp tục bổ sung các cơ chế bảo vệ khác trong thời gian tới.

Tại Hàn Quốc, Ủy ban Truyền thông và Báo chí (KMCC) ngày 14/1 đã yêu cầu X tăng cường các biện pháp bảo vệ trẻ em. Cơ quan này yêu cầu nền tảng phải xây dựng và đệ trình một kế hoạch nhằm ngăn chặn việc tạo ra nội dung bất hợp pháp hoặc có hại bằng Grok, đồng thời hạn chế trẻ vị thành niên tiếp cận các nội dung đó.

KMCC đã ấn định thời hạn hai tuần để X phản hồi. Nếu không đáp ứng yêu cầu, nền tảng này có thể đối mặt với mức phạt hành chính lên tới 10 triệu won, tương đương hơn 180 triệu đồng.

Xem thêm

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

(CLO) Google sẽ mặc định tắt các công cụ trí tuệ nhân tạo (AI) trên tài khoản học sinh từ mầm non đến lớp 12 từ đầu năm 2027. Tuy nhiên, các trường muốn ngăn học sinh sử dụng AI có thể phải chặn luôn quyền truy cập Google Search truyền thống.

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

(CLO) Binance, sàn giao dịch tiền mã hóa lớn nhất thế giới, vừa hứng chịu một vụ tấn công mạng quy mô lớn ngày 29/10, với hàng tỷ USD tài sản bị chuyển khỏi các ví nóng của nền tảng. Sự việc lập tức gây chấn động thị trường toàn cầu, khiến hàng loạt đồng tiền chủ chốt lao dốc không phanh.

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

(CLO) Từ ngày 1/1/2027, trẻ em dưới 15 tuổi tại Hy Lạp sẽ chính thức bị cấm sử dụng mạng xã hội theo đạo luật vừa được Quốc hội nước này thông qua. Động thái siết chặt quản lý này là một phần trong nỗ lực chung của châu Âu nhằm bảo vệ trẻ em trên môi trường mạng và buộc các nền tảng phải có trách nhiệm xác minh độ tuổi người dùng.

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

(CLO) Ngày 9/10, FBI đã bắt Abdulrahman Alfozan, 35 tuổi, kỹ sư người Ả Rập Xê Út làm việc tại OpenAI ở San Francisco (Mỹ) với cáo buộc cài thiết bị ghi âm trái phép trong phòng họp điều hành của công ty.

Cỡ chữ bài viết: