Facebook phát triển AI lọc nội dung nhạy cảm bị đăng khi chưa được phép

(CLO) Facebook đang phát triển loại trí tuệ nhân tạo (AI) có khả năng phát hiện những hình ảnh và video nhạy cảm (bán khỏa thân hoặc khỏa thân) về một ai đó được xuất bản mà không có sự đồng ý của họ. Hệ thống này cũng sẽ hoạt động trên Instagram.
Ảnh minh họa.

Ảnh minh họa.

Đồng thời, hệ thống sẽ tìm thấy tất cả nội dung vừa nêu trước khi nó được báo cáo. Điều này rất quan trọng vì 2 lý do: Nạn nhân thường sợ bị trả thù nên có thể họ sẽ báo cáo một cách miễn cưỡng hoặc không biết rằng nội dung này đã được chia sẻ.

Một khi AI đã phát hiện ra nội dung nhạy cảm, ảnh và video sẽ bị đánh dấu để nhóm điều hành xem xét. Tuy nhiên, hiện vẫn chưa rõ Facebook sẽ hiểu "hình ảnh thân mật được đăng tải mà không có sự đồng ý" như thế nào và công cụ phát hiện chúng sẽ hiệu quả ra sao. 

Ngoài ra, công cụ mới cũng sẽ kiểm tra tiêu đề của hình ảnh để tìm "ngôn ngữ xúc phạm" hoặc ngôn ngữ có thể gây rắc rối cho người được đề cập trong ảnh.

Quang Anh/Theo AndroidPIT

Xem thêm

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

(CLO) Ngày 9/10, FBI đã bắt Abdulrahman Alfozan, 35 tuổi, kỹ sư người Ả Rập Xê Út làm việc tại OpenAI ở San Francisco (Mỹ) với cáo buộc cài thiết bị ghi âm trái phép trong phòng họp điều hành của công ty.

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

(CLO) CEO Microsoft Satya Nadella cho rằng các hệ thống trí tuệ nhân tạo (AI) cần có cơ chế cho phép con người tạm dừng hoặc tắt mô hình ngay giữa quá trình thực hiện nhiệm vụ, trong bối cảnh các công ty công nghệ ngày càng ghi nhận sự cố mất kiểm soát AI.

Ý điều tra công ty âm nhạc AI Suno

Ý điều tra công ty âm nhạc AI Suno

(CLO) Cơ quan chống độc quyền của Ý đã mở cuộc điều tra đối với Suno, công ty phát triển nền tảng tạo nhạc bằng AI, do nghi ngờ một số điều khoản dịch vụ có thể gây bất lợi cho người tiêu dùng.

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

(CLO) Chính phủ Na Uy ngày 5/10 cho biết đang lên kế hoạch đề xuất lệnh cấm tạm thời sử dụng một số loại kính thông minh có camera và AI tại những nơi công cộng. Động thái này xuất phát từ lo ngại công nghệ mới có thể xâm phạm quyền riêng tư của người dân.

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

(CLO) Một cựu kỹ sư an toàn của OpenAI cảnh báo các công ty trí tuệ nhân tạo (AI) đang phát triển công nghệ quá nhanh và chưa áp dụng các biện pháp an toàn cần thiết, chỉ vài ngày sau khi Tổng thống Mỹ Donald Trump công bố thỏa thuận tự nguyện với 6 công ty AI lớn.

Cỡ chữ bài viết: