Vấn nạn dùng AI tạo ảnh khỏa thân: Sự bùng nổ đáng ngại trên không gian mạng

Theo thống kết từ Business Insider cho thấy, ngày càng nhiều ứng dụng và trang web sử dụng công nghệ AI để "cởi đồ" phụ nữ, người dùng chỉ cần tải lên ảnh bình thường của một người, AI sẽ trả về ảnh khỏa thân của người đó trong vài giây. Theo công ty phân tích truyền thông xã hội Graphika, có 34 trang web chỉ trong tháng 9 đã thu hút 24 triệu lượt truy cập, làm tăng nguy cơ gây hại, những thông tin xấu, những thông tin sai sự thật đăng tải trên mạng xã hội.

Những hình ảnh và video khỏa thân được phát tán mà không được sự đồng ý của người trong ảnh và video ngày càng cao. Nhóm nghiên cứu Sameweb cảnh báo về khả năng tiếp cận người dùng lớn, tăng nguy cơ gây hại trên không gian mạng. Dữ liệu từ Sameweb cũng cho thấy sự tăng đột biến lớn trên các mạng xã hội như X và Reddit, với nội dung chứa link giới thiệu các trang web và ứng dụng này tăng hơn 2.000% từ đầu năm đến nay.

van nan dung ai tao anh khoa than su bung no dang ngai tren khong gian mang hinh 1

Một nhóm chuyên cung cấp dịch vụ ảnh deepfake khiêu dâm trên Telegram, thu hút hàng nghìn người tham gia.

Mặc dù ảnh và video khỏa thân deepfake đã xuất hiện từ nhiều năm trước, nhưng quy mô không lớn do hạn chế về kỹ thuật và cấu hình máy móc. Tuy nhiên, với sự bùng nổ của cơn sốt AI, nội dung này ngày càng tràn ngập mạng xã hội, tạo ra thách thức mới cho cộng đồng trực tuyến. 

Hiện nay trên các nền tảng lớn như Instagram, TikTok, YouTube, Twitter và Facebook có chính sách "ngăn chặn thông tin gây hiểu lầm", hầu hết không thể kiểm soát do lượng nội dung deepfake quá lớn. Điều này đặt ra câu hỏi về hiệu quả của các chính sách hiện tại và đòi hỏi sự hợp tác mạnh mẽ hơn giữa các nền tảng để đối mặt với thách thức này.

Các nhà phát triển siêu AI như OpenAI đã tuyên bố cam kết xóa nội dung khiêu dâm khỏi dữ liệu được sử dụng để đào tạo AI vẽ tranh Dall-E. Midjourney cũng chặn từ khóa liên quan đến khiêu dâm, khuyến khích người dùng báo cáo nếu thấy nội dung nhạy cảm. Tuy nhiên, người dùng vẫn có cách để lách luật và tạo ra những bức ảnh phản cảm. Công ty khởi nghiệp Stability AI cũng đã cập nhật phần mềm để ngăn chặn khả năng tạo ảnh tục tĩu trên Stable Diffusion.

Theo giáo sư Cailin O'Connor tại Đại học California, deepfake có thể gây hại không kém những hình ảnh thật. Dù chúng chỉ là giả, ấn tượng được gieo vào đầu người xem vẫn tồn tại, đặt ra thách thức về việc bảo vệ tâm lý và danh dự của cá nhân trực tuyến.

Trong khi cộng đồng mạng cần phải tìm ra giải pháp hiệu quả, các chuyên gia cũng kêu gọi sự chung tay của cả xã hội để đối mặt với vấn nạn này, ngăn chặn sự lạm dụng của công nghệ AI và bảo vệ quyền riêng tư trên mạng xã hội.

Đức Anh (theo Business Insider)

Xem thêm

Thí sinh Hàn Quốc dùng camera siêu nhỏ và AI gian lận, đạt điểm gần tuyệt đối trong kỳ thi kế toán thuế

Thí sinh Hàn Quốc dùng camera siêu nhỏ và AI gian lận, đạt điểm gần tuyệt đối trong kỳ thi kế toán thuế

(CLO) Thí sinh đạt điểm cao nhất kỳ thi chứng chỉ kế toán thuế tại Hàn Quốc đã thừa nhận sử dụng camera siêu nhỏ, điện thoại thông minh và AI để gian lận trong cả hai vòng thi. Vụ việc làm dấy lên lo ngại về tình trạng gian lận bằng công nghệ trước kỳ thi tuyển sinh đại học ở Hàn Quốc.

CEO tạm quyền Colette Kress của Nvidia là ai?

CEO tạm quyền Colette Kress của Nvidia là ai?

(CLO) Sự ra đi đột ngột của đồng sáng lập Jensen Huang giữa vòng xoáy bê bối đã buộc Nvidia lập tức bổ nhiệm Giám đốc Tài chính Colette Kress làm quyền Tổng Giám đốc (CEO). Cuộc khủng hoảng thượng tầng không chỉ khiến cổ phiếu "gã khổng lồ" chip AI chao đảo, mà còn đặt ra bài toán khó cho ban lãnh đạo mới trong việc duy trì động lực đổi mới công nghệ.

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

(CLO) Google sẽ mặc định tắt các công cụ trí tuệ nhân tạo (AI) trên tài khoản học sinh từ mầm non đến lớp 12 từ đầu năm 2027. Tuy nhiên, các trường muốn ngăn học sinh sử dụng AI có thể phải chặn luôn quyền truy cập Google Search truyền thống.

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

(CLO) Binance, sàn giao dịch tiền mã hóa lớn nhất thế giới, vừa hứng chịu một vụ tấn công mạng quy mô lớn ngày 29/10, với hàng tỷ USD tài sản bị chuyển khỏi các ví nóng của nền tảng. Sự việc lập tức gây chấn động thị trường toàn cầu, khiến hàng loạt đồng tiền chủ chốt lao dốc không phanh.

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

(CLO) Từ ngày 1/1/2027, trẻ em dưới 15 tuổi tại Hy Lạp sẽ chính thức bị cấm sử dụng mạng xã hội theo đạo luật vừa được Quốc hội nước này thông qua. Động thái siết chặt quản lý này là một phần trong nỗ lực chung của châu Âu nhằm bảo vệ trẻ em trên môi trường mạng và buộc các nền tảng phải có trách nhiệm xác minh độ tuổi người dùng.

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

Cỡ chữ bài viết: