Meta sửa 'lỗi' nội dung bạo lực và phản cảm tràn lan trên Instagram

Công ty cho biết đây là một "lỗi" trong hệ thống và đã nhanh chóng khắc phục. "Chúng tôi đã sửa lỗi khiến một số người dùng thấy nội dung không phù hợp trên Reels. Chúng tôi xin lỗi vì sự cố này", phát ngôn viên của Meta tuyên bố.

meta sua loi noi dung bao luc va phan cam tran lan tren instagram hinh 1

Ứng dụng Instagram trên iPhone của Apple. Ảnh: GI

Sự việc bùng nổ sau khi nhiều người dùng lên các mạng xã hội khác để bày tỏ lo ngại về tình trạng gia tăng nội dung bạo lực và không an toàn trên Reels. Một số người khẳng định rằng ngay cả khi bật chế độ kiểm soát nội dung nhạy cảm ở mức cao nhất, họ vẫn xem phải hình ảnh kinh hoàng, bao gồm xác chết, thương tích nghiêm trọng và hành hung.

Theo chính sách của Meta, công ty nỗ lực bảo vệ người dùng khỏi những hình ảnh gây khó chịu và chỉ cho phép một số nội dung đồ họa nhất định nhằm nâng cao nhận thức về các vấn đề nhân quyền hay xung đột vũ trang. Tuy nhiên, lỗi lần này khiến những nội dung vốn bị kiểm duyệt nghiêm ngặt lại xuất hiện tràn lan trên Instagram.

Sự cố xảy ra trong bối cảnh Meta vừa tuyên bố thay đổi chính sách kiểm duyệt nhằm thúc đẩy quyền tự do ngôn luận. Trong thông báo ngày 7/1, công ty cho biết họ sẽ tập trung vào các vi phạm nghiêm trọng như khủng bố, bóc lột trẻ em, ma túy và lừa đảo, trong khi những vi phạm nhẹ hơn sẽ dựa vào báo cáo của người dùng trước khi xử lý.

Đáng chú ý, CEO Mark Zuckerberg cũng tuyên bố sẽ nới lỏng kiểm duyệt nội dung chính trị, đổi chương trình kiểm tra thông tin bằng mô hình "Ghi chú cộng đồng" giống mạng xã hội X của Elon Musk. Động thái này được cho là nhằm cải thiện quan hệ với Tổng thống Mỹ Donald Trump, người từng chỉ trích chính sách kiểm duyệt của Meta.

Đầu tháng này, Zuckerberg đã có cuộc gặp tại Nhà Trắng để thảo luận về vai trò của Meta trong việc bảo vệ vị thế công nghệ của Mỹ trên trường quốc tế.

Những thay đổi này diễn ra trong bối cảnh Meta cắt giảm 21.000 nhân viên trong hai năm qua, ảnh hưởng đáng kể đến các nhóm kiểm duyệt trên nền tảng.

Ngọc Ánh (theo CNBC, FT)

Xem thêm

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

FBI bắt kỹ sư OpenAI bị cáo buộc nghe lén lãnh đạo

(CLO) Ngày 9/10, FBI đã bắt Abdulrahman Alfozan, 35 tuổi, kỹ sư người Ả Rập Xê Út làm việc tại OpenAI ở San Francisco (Mỹ) với cáo buộc cài thiết bị ghi âm trái phép trong phòng họp điều hành của công ty.

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

CEO Microsoft đề xuất cơ chế 'phanh khẩn cấp' cho các mô hình AI

(CLO) CEO Microsoft Satya Nadella cho rằng các hệ thống trí tuệ nhân tạo (AI) cần có cơ chế cho phép con người tạm dừng hoặc tắt mô hình ngay giữa quá trình thực hiện nhiệm vụ, trong bối cảnh các công ty công nghệ ngày càng ghi nhận sự cố mất kiểm soát AI.

Ý điều tra công ty âm nhạc AI Suno

Ý điều tra công ty âm nhạc AI Suno

(CLO) Cơ quan chống độc quyền của Ý đã mở cuộc điều tra đối với Suno, công ty phát triển nền tảng tạo nhạc bằng AI, do nghi ngờ một số điều khoản dịch vụ có thể gây bất lợi cho người tiêu dùng.

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

Na Uy đề xuất cấm tạm thời kính AI tại nơi công cộng

(CLO) Chính phủ Na Uy ngày 5/10 cho biết đang lên kế hoạch đề xuất lệnh cấm tạm thời sử dụng một số loại kính thông minh có camera và AI tại những nơi công cộng. Động thái này xuất phát từ lo ngại công nghệ mới có thể xâm phạm quyền riêng tư của người dân.

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

Cựu kỹ sư OpenAI cảnh báo các công ty AI chưa đủ an toàn

(CLO) Một cựu kỹ sư an toàn của OpenAI cảnh báo các công ty trí tuệ nhân tạo (AI) đang phát triển công nghệ quá nhanh và chưa áp dụng các biện pháp an toàn cần thiết, chỉ vài ngày sau khi Tổng thống Mỹ Donald Trump công bố thỏa thuận tự nguyện với 6 công ty AI lớn.

Cỡ chữ bài viết: