"Do sự kết hợp giữa nhu cầu đặc biệt và việc lạm dụng bản dùng thử, chúng tôi sẽ tạm thời vô hiệu hóa các bản dùng thử miễn phí cho đến khi có những cải tiến tiếp theo", ông David Holz, người sáng lập Midjourney, cho biết.
Midjourney là công cụ sử dụng AI để tạo ảnh.
Bài liên quan
Chủ tịch Microsoft: 'Deepfake' là mối quan tâm lớn nhất của AI
Khảo sát: Một nửa tòa soạn trên thế giới sử dụng AI Sáng tạo
TikTok thử nghiệm chatbot 'Tako' tại Philippines, nhiều tính năng cần lưu ý
CEO Google: Xây dựng AI có trách nhiệm là cuộc đua duy nhất thực sự quan trọng
Mặc dù ông Holz không nói cụ thể về việc lạm dụng nào đã dẫn đến quyết định này, nhưng tuyên bố được đưa ra chỉ vài ngày sau khi một loạt hình ảnh giả, bao gồm một hình ảnh cựu Tổng thống Mỹ Donald Trump bị bắt và một hình ảnh khác của Giáo hoàng Francis mặc áo khoác thời trang, lan truyền trên mạng.
Quyết định hủy quyền truy cập miễn phí vào Midjourney nêu bật cách các hình ảnh do AI tạo ra đã góp phần lan truyền thông tin sai lệch trên mạng, cũng như những thách thức mà các nhà báo phải đối mặt với các công nghệ AI mới.
Các nhà báo sử dụng công cụ AI
Các nhà báo có thể sử dụng hình ảnh do AI tạo ra để minh họa cho câu chuyện của họ và thu hút khán giả. Ví dụ: một nhà báo có thể sử dụng Midjourney để tạo hình ảnh của một nhân vật dựa trên mô tả từ một bài phê bình sách hoặc để tạo bối cảnh cho một tình huống giả định (chẳng hạn như một hành tinh ngoài hệ mặt trời) dựa trên một báo cáo khoa học.
“Phần lớn, việc sử dụng hình ảnh do AI tạo ra cho báo chí đang nâng cao chất lượng, nhưng điều này không có nghĩa là các nhà báo bắt buộc phải sử dụng chúng”, ông Brandon Roberts, một nhà báo dữ liệu độc lập tại Mỹ cho biết.
Tuy nhiên, trong khi các nhà báo phần lớn sử dụng hình ảnh do AI tạo ra một cách có trách nhiệm, thì những cách sử dụng khác lại đang gây tranh cãi. Ví dụ, Eliot Higgins, người sáng lập Bellingcat, một tập hợp các nhà báo điều tra, đã sử dụng Midjourney để tạo ra hình ảnh về các câu chuyện giả định liên quan tới các chính trị gia.
Ảnh giả do AI tạo ra.
Vào ngày 20/3, Higgins đã tweet một loạt ảnh được tạo ra bởi Midjourney. Những bức ảnh mô tả việc ông Trump chống lại việc bắt giữ. Bốn ngày trước đó, ông cũng đã tweet một bức ảnh của Tổng thống Nga bị buộc tội trước tòa. Những hình ảnh nhanh chóng lan truyền và mặc dù đã tuyên bố rằng những bức ảnh này là hư cấu và do AI tạo ra, Midjourney đã phản ứng bằng cách khóa tài khoản của ông Higgins khỏi máy chủ Discord.
Tác động của trình tạo ảnh AI đối với báo chí
Quyết định của Midjourney là sự việc mới nhất trong cuộc tranh luận về cách sử dụng AI một cách có đạo đức trong báo chí. Trong khi một số nhà báo coi Midjourney là một công cụ hữu ích, thì những người khác lại nhìn thấy mối đe dọa tiềm ẩn, lập luận rằng Midjourney và các trình tạo hình ảnh AI khác như DALL-E làm tăng độ khó trong khả năng xác minh tính xác thực và chính xác của hình ảnh đối với những người làm báo.
Điều này đặc biệt quan trọng khi những hình ảnh trực quan có tác động lớn tới người xem, theo ông Marilín Gonzalo - nhà báo tại tổ chức kiểm tra thực tế Newtral của Tây Ban Nha.
Tuy nhiên, mặc dù mắt người có thể dễ dàng bị đánh lừa, nhưng hình ảnh do AI tạo ra có thể được phát hiện thông qua các công cụ, Gonzalo lập luận. “Nếu chúng được tạo ra bởi công nghệ, thì chúng cũng bị phát hiện bởi công nghệ”, cô viết.
“Mối quan hệ giữa hình ảnh và sự thật luôn không ổn định", Felix Simon, một nhà báo và nhà nghiên cứu tại Viện Nghiên cứu Báo chí của Reuters, nhận định.
Cần kiểm soát việc tạo ảnh AI
Ông Charlie Backett, giáo sư và chuyên gia báo chí AI tại Trường Kinh tế và Khoa học Chính trị London, tin rằng quyết định ngừng dùng thử miễn phí của Midjourney sẽ không có tác động lớn. “Tôi không nghĩ rằng quyết định của Midjourney sẽ tác động nhiều đến những nhà báo có trách nhiệm muốn thử nghiệm", ông nói.
Tuy nhiên, với quyết định kết thúc thời gian dùng thử miễn phí, vẫn còn nhiều câu hỏi về tính hữu ích của Midjourney đối với các nhà báo trong tương lai. Khi so sánh với các công cụ hình ảnh do AI khác tạo ra như DALL–E của OpenAI, chính sách của Midjourney vẫn dễ dãi hơn. Nhưng quyết định ngừng cung cấp phiên bản miễn phí của Midjourney chứng tỏ rằng họ đang thay đổi.
Trong một cuộc phỏng vấn với The Verge, ông Holz cho biết Midjourney đã cấm một số từ “liên quan đến các chủ đề ở các quốc gia khác nhau dựa trên khiếu nại của người dùng”. Do những hình ảnh sai lệch về Trump, thuật ngữ "bị bắt" đã được thêm vào danh sách các từ bị hạn chế và không còn được sử dụng để tạo nội dung trên nền tảng.
Ông Kunle Adebajo, một biên tập viên điều tra tại HumanAngle, cho biết các công cụ với khả năng truyền bá thông tin sai lệch không nên được lưu hành miễn phí cho tất cả mọi người. “Bạn phải trả tiền để sử dụng chúng và điều đó sẽ khiến bạn cẩn thận hơn khi sử dụng chúng”, ông nói.
“Nhưng tất nhiên, những người cố tình lan truyền thông tin sai lệch cũng sẽ không ngại chi một số tiền để truy cập dịch vụ này. Vì vậy, Midjourney vẫn phải đưa ra một số khuôn khổ nhất định để đảm bảo rằng các rủi ro được giảm thiểu tối đa", ông nói thêm.
Hoàng Tôn (theo IJN)
