Vấn nạn lớn qua lăng kính một câu chuyện nhỏ…
Khi một đồng nghiệp thông báo cho luật sư Stefanie Yuen Thio về việc những hình ảnh và video gợi cảm của cô đang lan truyền trên TikTok, một nỗi kinh hoàng tột độ đã bao trùm lấy cô.
“Tôi đã bị deepfake”, vị luật sư đồng điều hành Công ty Luật TSMP kiêm Chủ tịch tổ chức vận động cho phụ nữ có tên SG Her Empowerment (SHE) viết như vậy trong một bài đăng trên LinkedIn hồi tháng 10. “Khi nhìn thấy những video và bức ảnh gợi dục đó của mình, tôi rất sốc và bối rối. Những hình ảnh đó là giả nhưng trông thật đến mức đáng lo ngại”, cô chia sẻ.
Deepfake là những video, âm thanh hoặc hình ảnh chân thực nhưng được ngụy tạo bởi trí tuệ nhân tạo (AI), khiến một người trông như đang nói hoặc làm những điều mà thực tế họ không hề làm.
Dù công nghệ này có thể được sử dụng cho mục đích hài hước hoặc thử nghiệm sáng tạo, nhưng phần lớn các sản phẩm deepfake ngày nay là nội dung khiêu dâm AI không có sự đồng thuận. Được tiếp sức bởi các công cụ AI ngày càng dễ tiếp cận, số lượng các video deepfake trực tuyến này đã tăng lên theo cấp số nhân.
Báo cáo của Sumsub, công ty công nghệ có trụ sở tại Anh chuyên về chống gian lận trực tuyến, cho thấy khu vực Châu Á - Thái Bình Dương đã ghi nhận mức tăng 1.530% về các vụ việc deepfake trong giai đoạn 2022 - 2023, đứng thứ hai toàn cầu chỉ sau Bắc Mỹ.
Một báo cáo từ năm 2019 của Sensity AI, nền tảng phát hiện mối đe dọa AI có trụ sở tại Hà Lan, đã sớm chỉ ra rằng khoảng 96% các video deepfake là nội dung tình dục không đồng thuận, và con số đáng kinh ngạc là hơn 90% trong số đó nhắm vào phụ nữ.
Các báo cáo về tài liệu lạm dụng tình dục trẻ em do AI tạo ra - bao gồm cả deepfake của hầu hết là các bé gái - cũng đã tăng vọt. Theo Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) tại Mỹ, các trường hợp như vậy đã tăng 1.325%, từ 4.700 vụ vào năm 2023 lên hơn 67.000 vụ vào năm 2024.
Tại Singapore, SHECARES, một trung tâm hỗ trợ do SHE điều hành phối hợp với Liên hiệp các tổ chức phụ nữ Singapore, đã xử lý hơn 440 trường hợp bị xâm hại trực tuyến kể từ khi ra mắt vào năm 2023, bao gồm cả deepfake và nội dung khiêu dâm do AI tạo ra.
Ngoài ra, một khảo sát năm 2023 của SHE cho thấy phụ nữ trẻ từ 15 đến 34 tuổi có nguy cơ bị quấy rối tình dục trực tuyến cao gấp đôi so với nam giới. Trong cùng cuộc khảo sát, hơn 70% phụ nữ trong độ tuổi 15 đến 24 biết một người bạn nữ từng phải đối mặt với một số hình thức xâm hại trực tuyến, chẳng hạn như quấy rối tình dục trên mạng.
Bất kỳ ai cũng có thể trở thành nạn nhân
Bà How Kay Lii, Giám đốc điều hành của SHE, nhấn mạnh rằng những số liệu liên quan đến lạm dụng deepfake có thể chỉ đại diện cho một phần nhỏ các trường hợp thực tế, do nhiều vụ việc không được báo cáo. Và dù thống kê của Sensity AI cho thấy hầu hết nội dung khiêu dâm deepfake nhắm vào các nữ người nổi tiếng và nữ chính trị gia, nhưng thực tế bất kỳ ai cũng có thể trở thành nạn nhân.
Năm ngoái, người dân Hàn Quốc đã tổ chức nhiều cuộc biểu tình công khai sau khi nhiều phụ nữ trở thành nạn nhân của nội dung khiêu dâm do AI tạo ra bởi chính bạn bè đồng trang lứa, trong một sự kiện được gọi là “cuộc khủng hoảng khiêu dâm deepfake” của quốc gia này.
Tương tự, hồi tháng 6/2024, một nhóm bạn ở Minnesota (Mỹ) phát hiện ra rằng một người đàn ông mà họ quen biết đã sử dụng ảnh trên mạng xã hội của họ để tạo ra video deepfake khiêu dâm. Những bức ảnh và video do AI tạo ra này được thực hiện rất dễ dàng bằng cách sử dụng một trang web có tên là DeepSwap.
Điều đáng nói là, sau khi lao đầu vào một mê cung thủ tục pháp lý, các nạn nhân phát hiện ra rằng, kẻ tạo ra những hình ảnh deepfake kia có thể không phạm luật, vì hắn chưa phát tán hình ảnh. Nhưng những cô gái vẫn lo sợ, vì họ không thể chắc chắn rằng lời khai của gã này có đúng sự thật hay không.
Cùng tháng đó, các phương tiện truyền thông Úc đưa tin chi tiết về cuộc điều tra của chính quyền nước này về một vụ việc ở trường học, trong đó một thiếu niên bị cáo buộc đã tạo ra và phát tán nội dung deepfake của gần 50 bạn nữ cùng lớp.
Tại Singapore hồi tháng 11 năm ngoái, nhiều nam sinh tại Trường Thể thao Singapore – nơi phát hiện và đào tạo các vận động viên trẻ tài năng của đảo quốc này - đã tạo và chia sẻ những hình ảnh khỏa thân deepfake của các bạn nữ cùng lớp.
Sau đó không lâu, 5 bộ trưởng ở Singapore và hơn 100 công chức ở 31 cơ quan chính phủ đã nhận được email tống tiền, yêu cầu thanh toán bằng tiền điện tử để đổi lấy việc không công bố hình ảnh giả mạo của họ ở những vị trí nhạy cảm.
Những vụ việc như vậy cho thấy, vấn nạn lực tình dục kỹ thuật số đang len lỏi mọi ngóc ngách của cuộc sống. Bà Sugidha Nithiananthan, Giám đốc vận động chính sách của AWARE - một tổ chức phi chính phủ tại Singapore, hoạt động vì bình đẳng giới và quyền phụ nữ - nhận định: “Các hành vi xâm hại tình dục trực tuyến và lạm dụng deepfake đang ngày càng trở nên nham hiểm và lan rộng hơn, khiến phụ nữ dễ bị tổn thương hơn bao giờ hết”.
Nội dung là giả, nhưng nỗi đau là thật
Bà Mahima Didwania, chuyên gia tâm lý lâm sàng tại Bệnh viện tâm thần The Other Clinic, giải thích rằng mặc dù deepfake thiếu đi sự tiếp xúc vật lý, nhưng tổn thương về mặt cảm xúc có thể nghiêm trọng không kém.
“Việc biết rằng một phiên bản kỹ thuật số của mình đang nằm trong tay người khác, và họ có thể làm bất cứ điều gì họ muốn với hình ảnh của bạn, có thể gây ra nỗi kinh hoàng và cảm giác bất lực”, bà Didwania chia sẻ với hãng tin CAN.
“Ngay cả khi chúng ta biết điều gì đó là giả, tâm trí của chúng ta vẫn chật vật để phân biệt đâu là thật”, bà Didwania nói. “Đó là lý do tại sao chúng ta sợ bóng tối, sợ độ cao, hay sợ rắn. Ngay cả khi chưa có trải nghiệm trực tiếp, phản ứng cảm xúc vẫn là thật”.
Bà Sugidha từ tổ chức AWARE bổ sung: “Thực tế rằng đó không phải là một cuộc tấn công vật lý, hay thậm chí đó không phải là cơ thể thật của bạn được mô tả trong deepfake, không hề làm giảm đi những sang chấn mà nạn nhân phải trải qua”.
Theo báo cáo năm 2025 của SHE về trải nghiệm thực tế của những người sống sót sau bạo lực tình dục trực tuyến, các nạn nhân mô tả cảm giác hoảng loạn, xấu hổ và lo sợ rằng video sẽ liên tục xuất hiện trở lại.
Nhiều nạn nhân cũng báo cáo tình trạng mất ngủ, lo âu và thậm chí có ý định tự làm hại bản thân khi họ cảm thấy bất lực trong việc ngăn chặn nội dung lan truyền. How Kay Lii, Giám đốc điều hành của SHE, nhận định: “Một thứ không có thật vẫn có thể mang lại cảm giác bị xâm phạm từ tận tâm can”.
“Ngoài những tổn hại về tâm lý, nó còn hủy hoại danh tiếng và làm rạn nứt các mối quan hệ xã hội. Chính sự mâu thuẫn giữa việc 'nó là giả' nhưng 'mọi người lại nghĩ nó là thật' đã làm gia tăng sự nhục nhã và bất lực”, bà nói thêm.
Tính vĩnh viễn của nội dung số càng làm tăng thêm sự tuyệt vọng của người bị hại. Chẳng hạn, ngay cả sau khi TikTok gỡ bỏ deepfake của Yuen Thio và vô hiệu hóa tài khoản, nội dung vẫn xuất hiện trong kết quả tìm kiếm của Google, buộc cô phải gửi yêu cầu gỡ bỏ tới Google.
Nỗ lực tiên phong của Singapore
Trước tình trạng bạo lực tình dục kỹ thuật số lan tràn, cả AWARE và SHE đều hoan nghênh việc Singapore thành lập Ủy ban An toàn Trực tuyến (OSC) theo Dự luật An toàn Trực tuyến (Cứu trợ và Trách nhiệm giải trình). Dự luật này vừa được Quốc hội Singapore thông qua vào tháng 11 này và dự kiến sẽ chính thức có hiệu lực vào đầu năm 2026.
Dưới sự quản lý của OSC, nạn nhân sẽ có thể báo cáo nội dung độc hại trực tiếp cho cơ quan này nếu các nền tảng mạng xã hội không gỡ bỏ nội dung trong vòng 24 giờ. OSC sau đó có thể ra lệnh cho các nền tảng hành động ngay lập tức, cụ thể là gỡ bỏ nội dung, hạn chế tài khoản hoặc tiết lộ thông tin nhận dạng của những kẻ thủ ác ẩn danh để giúp nạn nhân theo đuổi các khiếu nại hoặc thực hiện các biện pháp bảo vệ chống lại chúng.
Ban đầu, OSC sẽ xử lý 5 loại hình xâm hại: Quấy rối trực tuyến, doxxing (công khai thông tin cá nhân trái phép), rình rập trực tuyến, lạm dụng hình ảnh thân mật và lạm dụng tình dục trẻ em dựa trên hình ảnh. Deepfake tình dục thuộc hai loại sau cùng. Theo thời gian, OSC sẽ mở rộng để bao gồm các lĩnh vực khác, bao gồm các loại deepfake khác, chẳng hạn như mạo danh trực tuyến.
Bên cạnh đạo luật này, Singapore cũng đã ra mắt khuôn khổ quản trị mới cho AI tạo sinh từ tháng 5 năm ngoái. Theo tờ Straits Times, khuôn khổ này xác định 9 lĩnh vực - bao gồm trách nhiệm giải trình, dữ liệu đáng tin cậy để đào tạo AI và nguồn gốc nội dung - nơi có thể tăng cường quản trị AI thế hệ mới.
Hiệu quả của các biện pháp này còn phụ thuộc vào nhiều yếu tố, từ nhận thức của cộng đồng cho đến sự hợp tác của các tập đoàn công nghệ lớn, nhưng điều quan trọng là Singapore đã cho thấy quyết tâm tạo ra một “môi trường đổi mới sáng tạo an toàn và có trách nhiệm”, như lời phát biểu của cựu Phó Thủ tướng nước này, ông Heng Swee Keat trong lễ ra mắt khuôn khổ quản trị mới cho AI vào tháng 5/2024.
