Nghiên cứu: Deepfake chính trị đứng đầu trong danh sách sử dụng AI độc hại

(CLO) Theo nghiên cứu của Google DeepMind, trí tuệ nhân tạo (AI) đang được sử dụng để tạo ra hình ảnh giả mạo người nổi tiếng nhiều hơn là được sử dụng cho các cuộc tấn công mạng.

Nghiên cứu của Google DeepMind cho biết việc tạo ra hình ảnh, video và âm thanh giả mạo con người phổ biến gần gấp đôi so với hành vi tạo thông tin sai lệch bằng các công cụ như chatbot AI.

Phân tích cho thấy mục tiêu phổ biến nhất của các tác nhân lạm dụng AI tổng hợp là định hình hoặc gây ảnh hưởng đến dư luận. Con số này chiếm 27% số lượt sử dụng, làm dấy lên lo ngại về việc deepfake có thể ảnh hưởng đến các cuộc bầu cử trên toàn cầu trong năm nay như thế nào.

nghien cuu deepfake chinh tri dung dau trong danh sach su dung ai doc hai hinh 1

Deepfake của Thủ tướng Anh Rishi Sunak cũng như các nhà lãnh đạo toàn cầu khác đã xuất hiện trên TikTok, X và Instagram trong những tháng gần đây. Cử tri Anh sẽ đi bỏ phiếu vào tuần tới trong cuộc tổng tuyển cử.

Người ta lo ngại rằng, bất chấp nỗ lực của các mạng xã hội trong việc gắn nhãn hoặc xóa nội dung đó, khán giả có thể không nhận ra đây là nội dung giả mạo và việc phổ biến nội dung đó có thể tác động đến cử tri.

Ardi Janjeva, cộng tác viên nghiên cứu tại Viện Alan Turing, gọi phát hiện của bài báo là "đặc biệt thích hợp", rằng việc thông tin công khai do AI tạo ra có thể "làm sai lệch hiểu biết chung của chúng ta về thực tế chính trị xã hội".

"Ngay cả khi chúng tôi không chắc chắn về tác động của deepfake đối với hành vi bỏ phiếu, thì sự biến dạng này có thể khó phát hiện trước mắt và gây ra rủi ro lâu dài cho nền dân chủ", Janjeva nói thêm.

Nhà nghiên cứu Nahema Marchal, tác giả chính của nghiên cứu tại Google DeepMind cho biết: "Đã có rất nhiều mối lo ngại xung quanh các cuộc tấn công mạng khá tinh vi được tạo ra bởi những công cụ này".

Các nhà nghiên cứu của Google DeepMind và Jigsaw đã phân tích khoảng 200 tình huống AI được sử dụng sai mục đích từ tháng 1/2023 đến tháng 3/2024, được lấy từ các mạng xã hội X và Reddit, cũng như các blog trực tuyến và báo cáo truyền thông về việc sử dụng sai mục đích.

Động lực phổ biến thứ hai đằng sau việc lạm dụng là kiếm tiền, bao gồm tạo ra các ảnh khỏa thân của người thật hay sử dụng AI để tạo ra nhiều nội dung, chẳng hạn như các bài báo giả mạo. Hầu hết tình huống đều sử dụng các công cụ dễ tiếp cận, "đòi hỏi chuyên môn kỹ thuật tối thiểu", nghĩa là nhiều kẻ xấu có thể lạm dụng AI sáng tạo.

Ngọc Ánh (theo FT)

Xem thêm

Google lại bị phạt 1 tỷ USD vì độc quyền

Google lại bị phạt 1 tỷ USD vì độc quyền

(CLO) Ủy ban châu Âu ngày 23/7 thông báo phạt Google 890 triệu euro (khoảng 1 tỷ USD) vì vi phạm Đạo luật Thị trường Kỹ thuật số (DMA), cáo buộc hãng công nghệ Mỹ lạm dụng vị thế thống lĩnh để ưu tiên các dịch vụ của mình và gây bất lợi cho đối thủ.

Google Cloud tăng trưởng bùng nổ nhờ AI

Google Cloud tăng trưởng bùng nổ nhờ AI

(CLO) Alphabet, công ty mẹ của Google, vừa công bố báo cáo thu nhập mới nhất cho thấy sự tăng trưởng mạnh mẽ, phần nào giải tỏa nỗi lo của các nhà đầu tư về việc liệu những khoản chi tiêu khổng lồ cho trí tuệ nhân tạo (AI) có thực sự mang lại lợi ích hay không.

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

(CLO) Trong kỷ nguyên AI, lợi thế của doanh nghiệp không còn nằm ở quy mô hay giá bán mà ở khả năng đổi mới sáng tạo, tạo ra giá trị khác biệt và thấu hiểu khách hàng. Đây là nhận định được các chuyên gia đưa ra tại Diễn đàn Chiến lược Kinh doanh "The Future of Business" diễn ra tại TP.HCM chiều 22/7.

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

(CLO) Các nhà nghiên cứu thuộc Đại học Cảnh sát Điều tra Hình sự Trung Quốc đã phát triển một hệ thống trí tuệ nhân tạo (AI) có khả năng thu thập và phân tích nội dung trên dark web bằng tiếng Trung, nhằm hỗ trợ phát hiện các hoạt động phạm pháp trên không gian mạng.

Meta hầu tòa vì cáo buộc Instagram gây nghiện

Meta hầu tòa vì cáo buộc Instagram gây nghiện

(CLO) Meta Platforms sẽ phải hầu tòa tại bang Tennessee (Mỹ) vào ngày 20/7 để đối mặt với cáo buộc Instagram được thiết kế theo cách "gây nghiện" cho thanh thiếu niên, làm trầm trọng thêm cuộc khủng hoảng sức khỏe tâm thần ở giới trẻ.

Google thua kiện vụ quảng cáo cờ bạc trên YouTube

Google thua kiện vụ quảng cáo cờ bạc trên YouTube

(CLO) Google đã thất bại trong nỗ lực hủy khoản phạt 750.000 euro liên quan đến các video quảng cáo cờ bạc trên nền tảng YouTube, sau khi Tòa án Công lý Liên minh châu Âu (CJEU) ra phán quyết có lợi cho cơ quan quản lý truyền thông của Ý.

Mạng xã hội X điều chỉnh thuật toán, giúp 'bạn bè' gắn kết hơn

Mạng xã hội X điều chỉnh thuật toán, giúp 'bạn bè' gắn kết hơn

(CLO) Giám đốc sản phẩm của mạng xã hội X, Nikita Bier, ngày 13/7 đã thông báo về một sự thay đổi quan trọng trong cách hiển thị nội dung trên nền tảng này nhằm mục đích tăng khả năng hiển thị các bài đăng từ những người dùng có mối quan hệ hai chiều, tức những tài khoản theo dõi lẫn nhau.

Apple kiện OpenAI với cáo buộc đánh cắp bí mật thương mại

Apple kiện OpenAI với cáo buộc đánh cắp bí mật thương mại

(CLO) Ngày 10/7, Apple đã đệ đơn kiện OpenAI cùng một số cựu nhân viên lên Tòa án Quận Bắc California (Mỹ), cáo buộc công ty này tiến hành một chiến dịch có hệ thống nhằm chiếm đoạt bí mật thương mại về phần cứng để phục vụ tham vọng phát triển thiết bị tiêu dùng.

OpenAI chính thức phát hành mô hình GPT-5.6 mới

OpenAI chính thức phát hành mô hình GPT-5.6 mới

(CLO) Ngày 9/7, OpenAI chính thức phát hành dòng mô hình GPT-5.6 gồm ba phiên bản Sol, Terra và Luna. Đây là lần đầu tiên công ty từ bỏ cách đặt tên bằng số để chuyển sang các tên gọi mới nhằm giúp người dùng dễ phân biệt cấp độ hiệu năng và chi phí giữa các mô hình.

Cỡ chữ bài viết: