Vụ lừa đảo tinh vi này cho thấy một nhân viên bị lừa tham dự cuộc gọi trực tuyến với những gì anh nghĩ là một số thành viên công ty, nhưng trên thực tế tất cả họ đều là sản phẩm của deepfake, theo cảnh sát Hồng Kông cho biết tại một cuộc họp báo vào cuối tuần vừa rồi.
Các nhà chức trách ngày càng lo ngại về khả năng gây thiệt hại do công nghệ trí tuệ nhân tạo gây ra. Ảnh: Getty
"Trong cuộc họp trực tuyến nhiều người, hóa ra tất cả mọi người anh ấy nhìn thấy đều là giả", giám đốc cấp cao Baron Chan Shun-ching nói với đài truyền hình công cộng RTHK của thành phố.
Chan cho biết người nhân viên này đã nghi ngờ sau khi anh ta nhận được một tin nhắn được cho là từ giám đốc tài chính của công ty có trụ sở tại Anh. Ban đầu, nhân viên này nghi ngờ đó là một email lừa đảo vì nó nói về sự cần thiết phải thực hiện một giao dịch bí mật.
Tuy nhiên, người nhân viên này đã gạt bỏ những nghi ngờ ban đầu sau cuộc gọi điện trực tuyến vì những người khác có mặt và có vẻ ngoài giống hệt những đồng nghiệp mà anh ta nhận ra.
Tin rằng những người khác trong cuộc gọi là có thật, người nhân viên này đã đồng ý chuyển tổng cộng 200 triệu đô la Hồng Kông – khoảng 25,6 triệu đô la Mỹ.
Vụ việc này là một trong nhiều vụ việc gần đây trong đó những kẻ lừa đảo được cho là đã sử dụng công nghệ deepfake để sửa đổi video công khai có sẵn và các cảnh quay khác nhằm lừa tiền mọi người.
Tại cuộc họp báo hôm thứ Sáu, cảnh sát Hồng Kông cho biết họ đã thực hiện sáu vụ bắt giữ liên quan đến những vụ lừa đảo như vậy.
Chan cho biết, 8 chứng minh nhân dân Hồng Kông bị đánh cắp, tất cả đều được chủ nhân báo cáo là bị mất, đã được sử dụng để thực hiện 90 đơn xin vay tiền và 54 lần đăng ký tài khoản ngân hàng từ tháng 7 đến tháng 9 năm ngoái.
Theo cảnh sát, trong ít nhất 20 trường hợp, AI đã được sử dụng để đánh lừa các chương trình nhận dạng khuôn mặt bằng cách bắt chước những người có hình trên chứng minh thư.
Vụ lừa đảo liên quan đến vị giám đốc tài chính giả chỉ bị phát hiện khi nhân viên này sau đó liên hệ với trụ sở chính của tập đoàn. Cảnh sát không tiết lộ tên hoặc thông tin chi tiết về công ty hoặc người nhân viên.
Các nhà chức trách trên khắp thế giới ngày càng lo ngại về sự phức tạp của công nghệ deepfake và những mục đích bất chính mà nó có thể gây ra.
Vào cuối tháng 1, những hình ảnh khiêu dâm do AI tạo ra về ngôi sao nhạc pop Taylor Swift đã lan truyền trên mạng xã hội, nhấn mạnh tiềm năng gây thiệt hại do công nghệ trí tuệ nhân tạo gây ra. Những bức ảnh đã được xem hàng chục triệu lần trước khi bị xóa.
Mai Anh (theo CNN)
