Doubao thuộc sở hữu của ByteDance và hiện là chatbot có lượng người dùng lớn nhất Trung Quốc, với 155 triệu người dùng hoạt động hàng tuần tính đến cuối tháng 12.
Theo nhóm điều tra, Doubao trở thành công cụ phổ biến để tạo video và hình ảnh deepfake vì các biện pháp bảo vệ dễ bị vượt qua. Tình nguyện viên của Free Nora đã thâm nhập các nhóm Telegram ẩn danh và ghi nhận cách người dùng chia sẻ kinh nghiệm lách kiểm duyệt.
Họ sử dụng hệ thống mã hóa gọi là “fenjue” - một tập hợp câu lệnh được thiết kế để vượt rào an toàn của AI. Thay vì yêu cầu trực tiếp nội dung nhạy cảm, người dùng đưa ra chỉ dẫn như thay trang phục, điều chỉnh tư thế hoặc dùng tiếng lóng, từ khóa nước ngoài để né bộ lọc.
Bằng cách thử nghiệm nhiều tài khoản và chế độ ẩn danh, họ tinh chỉnh câu lệnh cho đến khi hệ thống tạo ra hình ảnh hở hang. Theo điều tra, nền tảng không yêu cầu xác minh danh tính hay thông báo đồng thuận khi xử lý ảnh khuôn mặt.
Free Nora phát hiện một “mạng lưới chia sẻ kiến thức” hoạt động có tổ chức trong các nhóm chat. Thành viên hướng dẫn nhau cách tối ưu câu lệnh, tuyển người mới “thử đề bài” và thậm chí bán mã hoặc hướng dẫn trên các nền tảng thương mại điện tử.
Nhiều trường hợp sử dụng ảnh của người quen, bạn bè hoặc người thân để thử nghiệm. Những người có ảnh công khai trên mạng như streamer hay KOL thường trở thành mục tiêu.
Hiện tượng deepfake khiêu dâm không phải câu chuyện riêng của Trung Quốc. UN Women từng cảnh báo đây là hình thức bạo lực công nghệ mới đối với phụ nữ, khi 90-95% deepfake trực tuyến là nội dung khiêu dâm không đồng thuận, và phần lớn nạn nhân là nữ giới.
Free Nora cũng nhắc đến tranh cãi xoay quanh Grok - công cụ AI do Elon Musk giới thiệu. Sau khi ra mắt tính năng chỉnh sửa ảnh, ứng dụng này đã vấp phải phản ứng dữ dội toàn cầu và buộc phải hạn chế tạo ảnh đối với đa số người dùng.
Theo nhóm này, trong cuộc đua tăng trưởng và cạnh tranh công nghệ, một số nền tảng đã đánh đổi sự an toàn của phụ nữ. Họ kêu gọi các công ty Trung Quốc siết chặt cơ chế quản lý rủi ro.
Free Nora cảnh báo rằng việc tạo deepfake “miễn phí và không giới hạn” đang trao cho kẻ xấu quyền kiểm soát ảo đối với cơ thể người khác, xâm phạm quyền tự chủ và nhân phẩm của nạn nhân mà họ không hề hay biết.
