Theo thống kết từ Business Insider cho thấy, ngày càng nhiều ứng dụng và trang web sử dụng công nghệ AI để "cởi đồ" phụ nữ, người dùng chỉ cần tải lên ảnh bình thường của một người, AI sẽ trả về ảnh khỏa thân của người đó trong vài giây. Theo công ty phân tích truyền thông xã hội Graphika, có 34 trang web chỉ trong tháng 9 đã thu hút 24 triệu lượt truy cập, làm tăng nguy cơ gây hại, những thông tin xấu, những thông tin sai sự thật đăng tải trên mạng xã hội.
Những hình ảnh và video khỏa thân được phát tán mà không được sự đồng ý của người trong ảnh và video ngày càng cao. Nhóm nghiên cứu Sameweb cảnh báo về khả năng tiếp cận người dùng lớn, tăng nguy cơ gây hại trên không gian mạng. Dữ liệu từ Sameweb cũng cho thấy sự tăng đột biến lớn trên các mạng xã hội như X và Reddit, với nội dung chứa link giới thiệu các trang web và ứng dụng này tăng hơn 2.000% từ đầu năm đến nay.
Một nhóm chuyên cung cấp dịch vụ ảnh deepfake khiêu dâm trên Telegram, thu hút hàng nghìn người tham gia.
Mặc dù ảnh và video khỏa thân deepfake đã xuất hiện từ nhiều năm trước, nhưng quy mô không lớn do hạn chế về kỹ thuật và cấu hình máy móc. Tuy nhiên, với sự bùng nổ của cơn sốt AI, nội dung này ngày càng tràn ngập mạng xã hội, tạo ra thách thức mới cho cộng đồng trực tuyến.
Hiện nay trên các nền tảng lớn như Instagram, TikTok, YouTube, Twitter và Facebook có chính sách "ngăn chặn thông tin gây hiểu lầm", hầu hết không thể kiểm soát do lượng nội dung deepfake quá lớn. Điều này đặt ra câu hỏi về hiệu quả của các chính sách hiện tại và đòi hỏi sự hợp tác mạnh mẽ hơn giữa các nền tảng để đối mặt với thách thức này.
Các nhà phát triển siêu AI như OpenAI đã tuyên bố cam kết xóa nội dung khiêu dâm khỏi dữ liệu được sử dụng để đào tạo AI vẽ tranh Dall-E. Midjourney cũng chặn từ khóa liên quan đến khiêu dâm, khuyến khích người dùng báo cáo nếu thấy nội dung nhạy cảm. Tuy nhiên, người dùng vẫn có cách để lách luật và tạo ra những bức ảnh phản cảm. Công ty khởi nghiệp Stability AI cũng đã cập nhật phần mềm để ngăn chặn khả năng tạo ảnh tục tĩu trên Stable Diffusion.
Theo giáo sư Cailin O'Connor tại Đại học California, deepfake có thể gây hại không kém những hình ảnh thật. Dù chúng chỉ là giả, ấn tượng được gieo vào đầu người xem vẫn tồn tại, đặt ra thách thức về việc bảo vệ tâm lý và danh dự của cá nhân trực tuyến.
Trong khi cộng đồng mạng cần phải tìm ra giải pháp hiệu quả, các chuyên gia cũng kêu gọi sự chung tay của cả xã hội để đối mặt với vấn nạn này, ngăn chặn sự lạm dụng của công nghệ AI và bảo vệ quyền riêng tư trên mạng xã hội.
Đức Anh (theo Business Insider)
