Trong một video đăng trên Instagram vào tháng 11 năm ngoái, Tổng thống Indonesia Prabowo Subianto xuất hiện với chiếc mũ và áo truyền thống màu đen, hỏi người dân rằng ông có thể giúp gì cho họ sau khi đắc cử. "Ai chưa nhận được hỗ trợ từ tôi? Các bạn cần gì lúc này?".
Tuy nhiên, dù miệng và mắt của nhà lãnh đạo Indonesia cử động tự nhiên, những lời nói này thực chất là một phần của chiêu trò lừa đảo deepfake mà cảnh sát phát hiện vào tháng trước. Video này đã đánh lừa người dân trên 20 tỉnh của Indonesia.
Ông Prabowo Subianto. Ảnh: CC BY-SA 3.0
Những người tin vào thông điệp trong video được yêu cầu liên hệ một số điện thoại WhatsApp và chuyển khoản từ 250.000 đến một triệu rupiah (tương đương 15-60 USD) dưới danh nghĩa "phí hành chính" để nhận hỗ trợ, nhưng số tiền này chẳng bao giờ được hoàn lại.
Bà Aryani, 56 tuổi, một nạn nhân của chiêu trò này, chia sẻ: "Mọi người nên cẩn thận hơn. Đừng dễ dàng bị dụ dỗ bởi những lời hứa hẹn phần thưởng".
Bà đã chuyển 200.000 rupiah cho kẻ lừa đảo sau khi xem một video deepfake giả mạo một doanh nhân nổi tiếng Indonesia. "Tôi cần tiền, nhưng thay vào đó, họ yêu cầu tôi gửi tiền. Họ thậm chí còn gọi video call với tôi, như thể tôi đang nói chuyện trực tiếp với họ".
Trong chiến dịch tranh cử tổng thống tại Indonesia, deepfake đã trở thành công cụ phổ biến để lan truyền thông tin sai lệch, gây hại hoặc có lợi cho các ứng viên. Nhưng giờ đây, công nghệ này đã rơi vào tay những tội phạm đang tìm cách kiếm tiền bất chính.
Cảnh sát Indonesia đã bắt giữ một nghi phạm thu lợi bất chính 65 triệu rupiah từ vụ lừa đảo này, theo thông tin từ ông Himawan Bayu Aji, Giám đốc Đơn vị Tội phạm Mạng Quốc gia Indonesia vào tháng 2. Ông cho biết cảnh sát cũng đã bắt giữ một người khác liên quan đến một vụ lừa đảo khác sử dụng công nghệ deepfake, nhưng không tiết lộ số tiền thu được.
Tuy nhiên, các video deepfake này lan truyền rộng rãi hơn nhiều so với hai tài khoản mà cảnh sát công bố. Video deepfake giả mạo Tổng thống Prabowo vẫn tiếp tục xuất hiện trên mạng xã hội sau các vụ bắt giữ, bao gồm hàng chục video trên TikTok với hashtag "Prabowo chia sẻ phước lành".
Ít nhất 22 tài khoản TikTok đã quảng cáo cùng một chiêu trò lừa đảo kể từ khi ông Prabowo nhậm chức vào tháng 10 năm ngoái. Một tài khoản với hơn 77.000 người theo dõi đã thu hút 7,5 triệu lượt xem cho một video giả mạo Prabowo đang phân phát hỗ trợ tài chính. Một tài khoản khác cũng đã chia sẻ 100 video kể từ tháng 1, phần lớn là video deepfake của tổng thống hứa hẹn trao tiền mặt.
TikTok cho biết đã gỡ bỏ một trong các video lừa đảo deepfake và tài khoản liên quan, đồng thời cam kết tiếp tục loại bỏ những nội dung vi phạm nguyên tắc cộng đồng của nền tảng này, vốn cấm các bài đăng gây hiểu lầm.
Aribowo Sasmito, đồng sáng lập tổ chức kiểm chứng thông tin Mafindo của Indonesia, cho biết nhóm của ông phát hiện các vụ lừa đảo deepfake mới mỗi tuần do sự lan truyền nhanh chóng của chúng trên mạng. "Chúng tôi bắt đầu thấy các video deepfake từ năm ngoái khi công cụ AI trở nên dễ tiếp cận và giá rẻ hơn", ông cảnh báo.
Aribowo cho biết nhóm kiểm chứng của ông đang làm việc chăm chỉ hơn bao giờ hết để vạch trần các chiêu trò này, đặc biệt khi công nghệ mà tội phạm sử dụng ngày càng tiên tiến.
"Chúng tôi nhận thấy chất lượng các video này đã được cải thiện theo thời gian. Việc phân biệt video thật và giả trở nên khó khăn hơn", ông nói thêm. "Thách thức lớn nhất là số lượng các vụ lừa đảo này quá nhiều".
Cao Phong (theo CNA, NIE, Barron)
