Gần đây, các nhà chức trách đã phát hiện một mạng lưới lớn các phòng chat trên Telegram, thường được lập ra trong các trường học và đại học, nơi người dùng chia sẻ video khiêu dâm deepfake được tạo ra bằng trí tuệ nhân tạo, nhắm vào nữ sinh viên và nhân viên.

Sự việc này đã gây ra sự phẫn nộ trong công chúng, khiến Tổng thống Hàn Quốc hứa hẹn sẽ có biện pháp cứng rắn.

Cơ quan Cảnh sát Quốc gia Seoul cho biết họ đã phân bổ 2,7 tỷ won (khoảng 2 triệu đô la) mỗi năm cho đến năm 2027 để phát triển công nghệ học sâu nhằm phát hiện nội dung giả mạo, như deepfake và giọng nói giả. Họ cũng sẽ chi hàng trăm nghìn đô la để nâng cấp phần mềm hiện có nhằm theo dõi video deepfake và các video tạo ra bằng AI khác.

Hàn Quốc từ lâu đã phải đối phó với tình trạng bạo lực tình dục trực tuyến, nhưng số vụ việc đã tăng gấp 11 lần trong năm nay so với năm 2018. Tuy nhiên, tỷ lệ truy tố vẫn rất thấp. Từ năm 2021 đến tháng 7 năm nay, 793 vụ tội phạm liên quan đến deepfake đã được báo cáo, nhưng chỉ 16 người bị bắt và truy tố.

Tổng thống Yoon Suk Yeol cho biết vấn đề deepfake đã gây ra lo ngại lớn, đặc biệt là với phụ nữ, đó là tội phạm nghiêm trọng ảnh hưởng đến sự hài hòa xã hội. Ông đã yêu cầu các bộ liên quan thực hiện hành động quyết liệt.

Cuối tháng 8, 84 tổ chức phụ nữ đã ra tuyên bố chung, cho rằng nguyên nhân gốc rễ của khủng hoảng deepfake là "sự phân biệt giới tính" và giải pháp cho vấn đề này là bình đẳng giới.

Hồng Hạnh (theo Reuters, CNA)