Trên trang mạng xã hội X (trước đây là Twitter), những hình ảnh giả mạo của Taylor Swift do AI tạo ra cho thấy nữ ca sĩ trong tư thế khiêu dâm đã thu về hàng chục triệu lượt xem. Tuy đã bị xóa khỏi nền tảng xã hội này, nhưng không có gì trên internet thực sự biến mất mãi mãi và chắc chắn chúng sẽ tiếp tục được chia sẻ trên các nền tảng khác ít được quản lý hơn.

Giống như hầu hết các nền tảng truyền thông xã hội lớn, chính sách của X cấm chia sẻ "phương tiện truyền thông tổng hợp, bị thao túng hoặc nằm ngoài ngữ cảnh có thể đánh lừa hoặc gây nhầm lẫn cho mọi người và dẫn đến tổn hại".

Vụ việc xảy ra khiến mối lo ngại về AI ngày càng gia tăng bởi kẻ xấu có thể lợi dụng trí tuệ nhân tạo để tạo ra các hình ảnh và video gây hiểu lầm, thúc đẩy thông tin sai lệch tràn lan.

Ông Ben Decker, người điều hành cơ quan điều tra kỹ thuật số Memetica, cho biết: "Đây là một ví dụ điển hình về cách AI được tung ra cho nhiều mục đích bất chính mà không có đủ rào chắn bảo vệ". Ông Decker cho hay việc khai thác các công cụ AI sáng tạo để tạo ra nội dung độc hại nhắm vào người nổi tiếng đang gia tăng nhanh chóng và lan truyền nhanh hơn bao giờ hết trên mạng xã hội.

"Các công ty truyền thông xã hội không thực sự có kế hoạch hiệu quả để giám sát nội dung", ông nói. Ví dụ, X đã sa thải phần lớn nhân sự kiểm duyệt nội dung, chỉ dựa vào hệ thống tự động và báo cáo của người dùng. Meta cũng đã cắt giảm các nhóm giải quyết thông tin sai lệch cũng như nội dung quấy rối trên nền tảng của mình.

Vụ việc cũng trùng hợp với thời điểm bùng nổ của các công cụ AI như ChatGPT và Dall-E. Ông Decker cho biết, song song với các công cụ này cũng là sự trỗi dậy của các mô hình AI không an toàn cho công việc chưa được kiểm duyệt trong các nền tảng nguồn mở.

"Đây là dấu hiệu cho thấy vết nứt lớn trong khâu kiểm duyệt nội dung và quản trị nền tảng của các công ty AI, công ty truyền thông xã hội, cơ quan quản lý và xã hội dân sự. Nếu họ không có cùng quan điểm về cách giải quyết vết nứt này, loại nội dung giả mạo sẽ tiếp tục phổ biển", ông nói thêm.

Tuy nhiên, ông Decker cho biết việc ngôi sao nổi tiếng nhất thế giới Taylor Swift trở thành mục tiêu của nội dung giả mạo có thể thu hút nhiều sự chú ý hơn đến các vấn đề đang gia tăng xung quanh hình ảnh do AI tạo ra. Trong tuần này, đội ngũ fan hùng hậu của nữ ca sĩ trên khắp thế giới đã bày tỏ sự phẫn nộ trên mạng xã hội, đặt vấn đề này thành mối quan tâm hàng đầu.

Theo ông Decker, khi những nhân vật có tầm ảnh hưởng lớn như Taylor Swift trở thành nạn nhân của AI, các nhà lập pháp và các công ty công nghệ sẽ bị thúc đẩy phải hành động trước áp lực truyền thông. 

Trước đây, loại công nghệ này vốn đã được những kẻ lừa đảo sử dụng rộng rãi để tạo ra hình ảnh khiêu dâm của người khác và đăng chúng lên mạng nhằm mục đích xấu. Nhưng chỉ đến khi những nhân vật nổi tiếng như Taylor Swift trở thành nạn nhân, loại công nghệ lừa đảo này mới được đông đảo công chúng chú ý.

Tại Mỹ, đã có 9 tiểu bang ban hành luật chống lại việc tạo hoặc chia sẻ ảnh deepfake mà không có sự đồng thuận, là những hình ảnh tổng hợp được tạo ra để bắt chước chân dung của một người.  

Hoài Phương (theo CNN)