Và trước khi Bangladesh tổ chức bầu cử vào tháng 1/2024, thông tin sai lệch do AI tạo ra đã trở thành một vấn đề ngày càng nghiêm trọng. Nhất là khi đây là cuộc đua căng thẳng giữa Thủ tướng đương nhiệm Sheikh Hasina và các đối thủ của bà, Đảng Dân tộc Chủ nghĩa Bangladesh.

Trong một đoạn video, người dẫn chương trình do AI tạo ra đã đưa ra những chỉ trích vô căn cứ đối với một đảng phái. Một video giả mạo deepfake khác (hiện đã bị xoá) cho thấy một nhà lãnh đạo phe đối lập tỏ ra thiếu rõ ràng trong việc ủng hộ người Palestine ở Gaza, điều không được lòng dân chúng ở quốc gia có đa số người Hồi giáo này.

Mối nguy thông tin sai lệch do AI tạo ra trên các nền tảng mạng xã hội và công nghệ dự kiến sẽ bùng nổ ​​​​vào năm 2024, khi hàng loạt cuộc bầu cử quan trọng diễn ra, bao gồm ở Mỹ, Anh, Ấn Độ và Indonesia. Đáp lại, Google và Meta gần đây đã công bố chính sách bắt đầu yêu cầu các chiến dịch phải tiết lộ nếu nội dung quảng cáo chính trị sử dụng AI.

Nhưng các ví dụ từ Bangladesh không chỉ cho thấy cách khai thác các công cụ AI này trong bầu cử, mà còn cho thấy khó khăn trong việc kiểm soát chúng ở các thị trường nhỏ hơn có nguy cơ bị các công ty công nghệ Mỹ bỏ qua.

Trong một video giả mạo được đăng trên X vào tháng 9 bởi trang tin BD Politico, người dẫn chương trình đã trình bày các hình ảnh bạo loạn trong đó cáo buộc các nhà ngoại giao Mỹ can thiệp vào cuộc bầu cử ở Bangladesh và đổ lỗi cho họ vì bạo lực chính trị.

Video này được thực hiện bằng HeyGen, một công cụ tạo video AI có trụ sở tại Los Angeles, cho phép khách hàng tạo các clip với chi phí chỉ 24 USD một tháng.

Sabhanaz Rashid Diya, người sáng lập Tech Global Institute và cựu giám đốc Meta, cho biết thách thức chính trong việc xác định những thông tin sai lệch như vậy là thiếu các công cụ phát hiện AI đáng tin cậy. Ngoài ra, Bangladesh và nhiều nước khác còn thiếu chế tài xử phạt các hành vi này.

Mai Anh (theo FT)