Ngày 18/8, Công an xã Ia Grai (tỉnh Gia Lai) cho biết đơn vị vừa xử lý một trường hợp dùng trí tuệ nhân tạo (AI) cắt ghép hình ảnh, tạo clip nhạy cảm đăng lên TikTok để bôi nhọ người khác.
Trước đó, Công an xã Ia Grai tiếp nhận đơn kiến nghị của phụ huynh em H.T.T.Q (13 tuổi, trú tại xã Ia Grai) về việc con gái bị xúc phạm danh dự, nhân phẩm trên không gian mạng.
Cụ thể, em Q. bị một tài khoản TikTok ẩn danh sử dụng công cụ AI cắt ghép hình ảnh nhạy cảm rồi đăng tải, lan truyền trên các nền tảng số. Phát hiện sự việc, gia đình em Q. đã yêu cầu tài khoản trên gỡ bỏ nội dung, các hình ảnh, video nhạy cảm.
Tuy nhiên, người này vẫn tiếp tục chia sẻ khiến Q. bị ảnh hưởng đến danh dự, tinh thần và tâm lý. Nhận được tin báo, Công an xã Ia Grai đã vào cuộc và xác định người thực hiện hành vi trên là N.N.M.T (13 tuổi, trú tại xã Ia Grai).
Làm việc với Công an, T. thừa nhận do xảy ra mâu thuẫn với Q. nên đã sử dụng công cụ AI để cắt ghép hình ảnh, tạo các video nhạy cảm rồi đăng tải lên TikTok nhằm bôi nhọ bạn.
Công an xã Ia Grai sau đó đã yêu cầu T. xóa toàn bộ clip liên quan, đăng bài đính chính và xin lỗi Q. trên mạng xã hội, đồng thời ký cam kết không tái phạm. Lực lượng Công an khuyến cáo phụ huynh cần tăng cường quản lý, hướng dẫn con em khi sử dụng điện thoại và tham gia trên không gian mạng.
Đặc biệt, phụ huynh cần nhắc nhở trẻ em không sử dụng công nghệ AI, để tạo hoặc lan truyền nội dung xúc phạm danh dự, nhân phẩm người khác, tránh những hệ lụy đáng tiếc và nguy cơ vi phạm pháp luật.