UNICEF cho biết các báo cáo gần đây cho thấy số lượng hình ảnh và video deepfake khiêu dâm liên quan đến trẻ em đang gia tăng đáng kể, gây ra những tổn hại nghiêm trọng và lâu dài đối với các nạn nhân.
Trước thực trạng này, cơ quan Liên hợp quốc kêu gọi các quốc gia nhanh chóng hoàn thiện khuôn khổ pháp lý nhằm xử lý hành vi tạo ra, phát tán và sử dụng các nội dung nói trên.
Bên cạnh đó, UNICEF cũng thúc giục các nhà phát triển công nghệ áp dụng nguyên tắc “an toàn ngay từ khâu thiết kế”, tích hợp các biện pháp bảo vệ nhằm ngăn chặn việc lạm dụng các mô hình AI.
Cơ quan này nhấn mạnh rằng các công ty công nghệ cần chủ động ngăn chặn sự lan truyền của những hình ảnh độc hại bằng cách tăng cường kiểm duyệt nội dung và đầu tư vào các công nghệ phát hiện tiên tiến.
Trong một tuyên bố, UNICEF cảnh báo: “Tác hại từ việc lạm dụng deepfake là có thật và mang tính cấp bách. Trẻ em không thể chờ đợi luật pháp bắt kịp”.
Deepfake là các hình ảnh, video hoặc âm thanh được tạo ra bằng trí tuệ nhân tạo, có khả năng giả mạo con người một cách thuyết phục.
UNICEF cũng bày tỏ lo ngại về hiện tượng sử dụng AI để chỉnh sửa hoặc loại bỏ quần áo trong ảnh, từ đó tạo ra các hình ảnh khỏa thân. Theo UNICEF, ít nhất 1,2 triệu trẻ em tại 11 quốc gia đã tiết lộ rằng hình ảnh của các em bị chỉnh sửa thành các video deepfake khiêu dâm trong vòng một năm qua.
Trong bối cảnh đó, hôm thứ Bảy vừa qua, Vương quốc Anh tuyên bố kế hoạch ban hành luật cấm sử dụng các công cụ trí tuệ nhân tạo để tạo ra hình ảnh lạm dụng tình dục trẻ em, trở thành quốc gia đầu tiên thực hiện động thái này.
Những năm gần đây, mối lo ngại về việc AI bị lợi dụng để tạo ra nội dung lạm dụng trẻ em ngày càng gia tăng, đặc biệt liên quan đến các chatbot như Grok của xAI đang bị giám sát chặt chẽ do liên quan đến việc tạo ra hình ảnh khiêu dâm phụ nữ và trẻ vị thành niên.
Ngày 14/1, xAI thông báo đã hạn chế các tính năng chỉnh sửa hình ảnh đối với người dùng Grok AI, đồng thời chặn người dùng tại một số khu vực pháp lý khỏi việc tạo ra hình ảnh người mặc trang phục hở hang ở những nơi mà hành vi này bị coi là bất hợp pháp.
Tuy nhiên, công ty không nêu rõ các quốc gia liên quan. Trước đó, xAI cũng đã giới hạn quyền sử dụng các tính năng tạo và chỉnh sửa hình ảnh của Grok chỉ dành cho người dùng trả phí.
