Nếu thành công, Facebook sẽ đạt được những bước tiến nhất định trong việc cải thiện AI nhằm phát hiện các phát ngôn gây thù địch, nội dung độc hại vi phạm chính sách cộng đồng của mình.
Một nỗ lực của Facebook nhằm chống lại những nội dung thất thiệt và độc hại, gây thù địch
Vài tháng qua, đại dịch COVID-19 đã phản ánh chính xác cách mạng xã hội bị lợi dụng để tung tin thất thiệt và nội dung độc hại. Mạng xã hội Facebook đang làm mọi cách để cải thiện nền tảng của mình, chống lại nội dung thất thiệt cũng như các phát ngôn, bài đăng kích động, gây thù địch.
Các meme (hành vi, nội dung có tính lan truyền trên internet) với yếu tố gây thù địch đang khiến mạng xã hội lớn nhất thế giới đau đầu tìm giải pháp xử lý để chống lây lan trên nền tảng của mình.
Mới đây, theo Phone Arena, Facebook đã khởi động cuộc tranh tài dành cho các nhà phát triển nhằm tìm ra một thuật toán có sự hỗ trợ của trí tuệ nhân tạo (AI) với khả năng xác định các hành vi thù địch mà không cần tới con người kiểm duyệt.
Hãng nhận định các hành vi lan truyền trên internet rất khó cho hệ thống AI để giải mã vì máy tính không thể hiểu được nội dung ngữ cảnh như cách của con người, vì vậy việc “đọc hiểu” cả văn bản và hình ảnh là nhiệm vụ khó khăn cho AI. Để sử dụng hệ thống AI cho mục đích xác định nội dung thù địch, ý nghĩa của tấm hình được đăng tải cùng với chữ viết trên đó phải được hiểu và giải mã tổng hòa, đồng thời.
Facebook đã tạo ra các meme dựa trên những gì đang phổ biến, được chia sẻ rộng rãi trên nhiều nền tảng mạng xã hội để cung cấp thêm dữ liệu cho các nhà nghiên cứu, phát triển. Gói dữ liệu do hãng cung cấp có chứa hơn 10.000 mẫu meme để huấn luyện cho AI.
Cuối cùng, tổng giải thưởng cho cuộc thi là 100.000 USD, do DriveData đứng ra tổ chức. Công ty cho biết đang đạt được những bước tiến nhất định trong việc cải thiện AI nhằm phát hiện các phát ngôn gây thù địch, nội dung độc hại vi phạm chính sách cộng đồng của Facebook.
