Nghiên cứu của Google DeepMind cho biết việc tạo ra hình ảnh, video và âm thanh giả mạo con người phổ biến gần gấp đôi so với hành vi tạo thông tin sai lệch bằng các công cụ như chatbot AI.
Phân tích cho thấy mục tiêu phổ biến nhất của các tác nhân lạm dụng AI tổng hợp là định hình hoặc gây ảnh hưởng đến dư luận. Con số này chiếm 27% số lượt sử dụng, làm dấy lên lo ngại về việc deepfake có thể ảnh hưởng đến các cuộc bầu cử trên toàn cầu trong năm nay như thế nào.
Deepfake của Thủ tướng Anh Rishi Sunak cũng như các nhà lãnh đạo toàn cầu khác đã xuất hiện trên TikTok, X và Instagram trong những tháng gần đây. Cử tri Anh sẽ đi bỏ phiếu vào tuần tới trong cuộc tổng tuyển cử.
Người ta lo ngại rằng, bất chấp nỗ lực của các mạng xã hội trong việc gắn nhãn hoặc xóa nội dung đó, khán giả có thể không nhận ra đây là nội dung giả mạo và việc phổ biến nội dung đó có thể tác động đến cử tri.
Ardi Janjeva, cộng tác viên nghiên cứu tại Viện Alan Turing, gọi phát hiện của bài báo là "đặc biệt thích hợp", rằng việc thông tin công khai do AI tạo ra có thể "làm sai lệch hiểu biết chung của chúng ta về thực tế chính trị xã hội".
"Ngay cả khi chúng tôi không chắc chắn về tác động của deepfake đối với hành vi bỏ phiếu, thì sự biến dạng này có thể khó phát hiện trước mắt và gây ra rủi ro lâu dài cho nền dân chủ", Janjeva nói thêm.
Nhà nghiên cứu Nahema Marchal, tác giả chính của nghiên cứu tại Google DeepMind cho biết: "Đã có rất nhiều mối lo ngại xung quanh các cuộc tấn công mạng khá tinh vi được tạo ra bởi những công cụ này".
Các nhà nghiên cứu của Google DeepMind và Jigsaw đã phân tích khoảng 200 tình huống AI được sử dụng sai mục đích từ tháng 1/2023 đến tháng 3/2024, được lấy từ các mạng xã hội X và Reddit, cũng như các blog trực tuyến và báo cáo truyền thông về việc sử dụng sai mục đích.
Động lực phổ biến thứ hai đằng sau việc lạm dụng là kiếm tiền, bao gồm tạo ra các ảnh khỏa thân của người thật hay sử dụng AI để tạo ra nhiều nội dung, chẳng hạn như các bài báo giả mạo. Hầu hết tình huống đều sử dụng các công cụ dễ tiếp cận, "đòi hỏi chuyên môn kỹ thuật tối thiểu", nghĩa là nhiều kẻ xấu có thể lạm dụng AI sáng tạo.
Ngọc Ánh (theo FT)
