Các nhiệm vụ liên quan đến thực thi nội dung bao gồm việc phát hiện và gỡ bỏ các thông tin về khủng bố, xâm hại trẻ em, ma túy, gian lận và lừa đảo. Meta cho biết sẽ triển khai các hệ thống AI cao cấp này trên tất cả các ứng dụng của mình ngay khi chúng đạt được hiệu suất vượt trội một cách ổn định so với các phương pháp thực thi hiện tại.
Trong một bài đăng trên blog, Meta giải thích rằng: “Trong khi chúng tôi vẫn có nhân sự đánh giá nội dung, các hệ thống này sẽ có khả năng đảm nhận công việc phù hợp hơn với công nghệ, như việc đánh giá lặp đi lặp lại các nội dung hình ảnh bạo lực hoặc những lĩnh vực mà các tác nhân thù địch thường xuyên thay đổi chiến thuật, chẳng hạn như bán thuốc cấm hoặc lừa đảo”.
Động thái này cho thấy nỗ lực của tập đoàn trong việc tối ưu hóa quy trình quản lý nền tảng thông qua tự động hóa, đặc biệt là ở những mảng nội dung đòi hỏi sự phản ứng nhanh và độ chính xác cao.
Meta tin rằng các hệ thống AI mới có thể phát hiện nhiều vi phạm hơn với độ chính xác cao hơn, ngăn chặn lừa đảo tốt hơn, phản ứng nhanh hơn với các sự kiện thực tế. Các thử nghiệm sớm đã mang lại kết quả đầy hứa hẹn khi AI có thể phát hiện lượng nội dung gạ gẫm tình dục người lớn nhiều gấp hai lần so với các nhóm đánh giá thủ công, đồng thời giảm tỷ lệ sai sót hơn 60%.
Ngoài ra, hệ thống còn có khả năng nhận diện và ngăn chặn các tài khoản giả mạo người nổi tiếng hoặc những cá nhân có tầm ảnh hưởng, cũng như giúp ngăn chặn hành vi chiếm đoạt tài khoản bằng cách phát hiện các tín hiệu bất thường như đăng nhập từ vị trí mới, thay đổi mật khẩu hoặc chỉnh sửa hồ sơ.
Hàng ngày, hệ thống của Meta có thể xác định và giảm thiểu khoảng 5.000 nỗ lực lừa đảo nhằm lấy cắp thông tin đăng nhập của người dùng. Song song với việc tự động hóa, Meta cũng ra mắt trợ lý hỗ trợ Meta AI hoạt động 24/7 để giải đáp thắc mắc của người dùng trên toàn cầu thông qua các ứng dụng Facebook và Instagram trên các nền tảng di động và máy tính. Đây là một bước đi quan trọng nhằm cải thiện trải nghiệm người dùng trong bối cảnh các tiêu chuẩn cộng đồng ngày càng trở nên phức tạp.
Mặc dù AI đang chiếm lĩnh nhiều công đoạn, Meta khẳng định con người vẫn đóng vai trò không thể thay thế trong các quyết định quan trọng nhất.
