TikTok triển khai công cụ phát hiện deepfake mạo danh người nổi tiếng

(CLO) TikTok triển khai công cụ giúp chính trị gia và người nổi tiếng phát hiện, báo cáo nội dung AI sử dụng hình ảnh của họ trái phép, nhằm hạn chế thông tin sai lệch trước các cuộc bầu cử tại châu Âu năm 2027.

Ngày 20/11, TikTok thông báo ra mắt công cụ phát hiện nội dung giả mạo bằng trí tuệ nhân tạo (deepfake) nhắm vào các nhân vật công chúng trên phạm vi toàn cầu. Động thái này diễn ra trong bối cảnh nền tảng tăng cường kiểm soát thông tin sai lệch trước thềm hàng loạt cuộc bầu cử tại châu Âu vào năm tới.

Công cụ có tên “Phát hiện sự giống nhau” (likeness detection) cho phép các chính trị gia và tài khoản có lượng người theo dõi lớn tìm kiếm, báo cáo những nội dung do AI tạo ra có sử dụng hình ảnh của họ mà không được cho phép. Tính năng đang được triển khai từng bước trên toàn cầu.

Deepfake là thuật ngữ chỉ các nội dung giả mạo dưới dạng văn bản, hình ảnh, video hoặc âm thanh, được tạo ra hay chỉnh sửa bằng AI nhằm khiến người xem tưởng là thật.

untitled-9416.png
TikTok ra mắt công cụ phát hiện deepfake nhằm ngăn chặn mạo danh chính trị gia trước mùa bầu cử châu Âu. Ảnh: Unsplash

Với TikTok, công cụ mới là một phần trong nỗ lực bảo vệ tính toàn vẹn của các cuộc bầu cử tại châu Âu vào năm 2027, trong đó có các cuộc bầu cử ở Ý, Pháp và Hy Lạp.

Phát biểu tại một sự kiện về an toàn và đổi mới của TikTok ở London hôm 19/11, bà Francesca Scapolo, phụ trách quan hệ chính phủ của công ty về các cuộc bầu cử châu Âu, nhấn mạnh việc bảo vệ tính toàn vẹn của bầu cử là một trong những trách nhiệm quan trọng nhất của nền tảng.

Theo bà Scapolo, công cụ nhận diện hình ảnh sẽ giúp các chính trị gia và cơ quan chính phủ phát hiện những nội dung có khả năng được tạo bằng AI, sau đó bị phát tán mà không có sự đồng ý của người xuất hiện trong đó.

Liên minh châu Âu (EU) bắt đầu triển khai các quy định toàn diện về tính minh bạch của AI từ tháng 8, trong đó có yêu cầu gắn nhãn đối với deepfake và những nội dung khác do AI tạo ra.

TikTok cho biết nền tảng đã yêu cầu người dùng gắn nhãn các hình ảnh, video và âm thanh chân thực được tạo bằng AI trong nhiều năm qua. Công cụ mới được kỳ vọng bổ sung một lớp bảo vệ, giúp những người bị sử dụng hình ảnh trái phép chủ động phát hiện và báo cáo nội dung vi phạm.

Không chỉ TikTok, các nền tảng mạng xã hội khác cũng phát triển công nghệ nhận diện nội dung giả mạo. YouTube đã xây dựng công cụ cho phép người sáng tạo phát hiện những video do AI tạo ra có sử dụng hình ảnh khuôn mặt của họ.

AI ngày càng được ứng dụng rộng rãi trong hoạt động kiểm duyệt nội dung trực tuyến, khi các công ty công nghệ tìm cách xử lý khối lượng lớn nội dung có vấn đề, từ thông tin sai lệch, nội dung khiêu dâm đến ngôn từ thù hận. Công nghệ này cũng được xem là giải pháp giúp các nền tảng giảm chi phí vận hành và sự phụ thuộc vào đội ngũ kiểm duyệt viên.

Năm ngoái, TikTok cho biết những cải tiến công nghệ sẽ giúp công ty cắt giảm nhân sự và số địa điểm kiểm duyệt nội dung trên toàn cầu.

Xem thêm

CEO tạm quyền Colette Kress của Nvidia là ai?

CEO tạm quyền Colette Kress của Nvidia là ai?

(CLO) Sự ra đi đột ngột của đồng sáng lập Jensen Huang giữa vòng xoáy bê bối đã buộc Nvidia lập tức bổ nhiệm Giám đốc Tài chính Colette Kress làm quyền Tổng Giám đốc (CEO). Cuộc khủng hoảng thượng tầng không chỉ khiến cổ phiếu "gã khổng lồ" chip AI chao đảo, mà còn đặt ra bài toán khó cho ban lãnh đạo mới trong việc duy trì động lực đổi mới công nghệ.

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

(CLO) Google sẽ mặc định tắt các công cụ trí tuệ nhân tạo (AI) trên tài khoản học sinh từ mầm non đến lớp 12 từ đầu năm 2027. Tuy nhiên, các trường muốn ngăn học sinh sử dụng AI có thể phải chặn luôn quyền truy cập Google Search truyền thống.

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

(CLO) Binance, sàn giao dịch tiền mã hóa lớn nhất thế giới, vừa hứng chịu một vụ tấn công mạng quy mô lớn ngày 29/10, với hàng tỷ USD tài sản bị chuyển khỏi các ví nóng của nền tảng. Sự việc lập tức gây chấn động thị trường toàn cầu, khiến hàng loạt đồng tiền chủ chốt lao dốc không phanh.

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

(CLO) Từ ngày 1/1/2027, trẻ em dưới 15 tuổi tại Hy Lạp sẽ chính thức bị cấm sử dụng mạng xã hội theo đạo luật vừa được Quốc hội nước này thông qua. Động thái siết chặt quản lý này là một phần trong nỗ lực chung của châu Âu nhằm bảo vệ trẻ em trên môi trường mạng và buộc các nền tảng phải có trách nhiệm xác minh độ tuổi người dùng.

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

Cỡ chữ bài viết: