Nhưng giọng nói của họ bị rè và không đồng bộ với chuyển động của miệng. Khuôn mặt của họ bị "vỡ hình" như trong trò chơi điện tử và mái tóc của họ trông rất bất thường. Các chú thích thì chứa đầy lỗi ngữ pháp.

Mối lo thành hiện thực

Và hai phát thanh viên nói trên, được cho là phát thanh viên cho một hãng tin có tên là Wolf News, không phải là người thật. Họ là những hình ảnh do máy tính tạo ra bằng phần mềm trí tuệ nhân tạo (AI). Và vào cuối năm ngoái, các video này đã được phát tán trên Facebook và Twitter, cũng là một trường hợp đầu tiên được biết đến về công nghệ video “deepfake”.

“Đây là lần đầu tiên chúng tôi thấy công nghệ deepfake xuất hiện trong thực tế", Ông Jack Stubbs, phó chủ tịch phụ trách tình báo của Graphika, một công ty nghiên cứu về thông tin sai lệch, cho biết. 

Công nghệ “Deepfake”, đã phát triển đều đặn trong một thập kỷ gần đây, có khả năng tạo ra những biên tập viên kỹ thuật số biết nói.

Công nghệ AI này đôi khi còn được sử dụng để bóp méo các nhân vật của công chúng và lan truyền thông tin sai lệch. Một video lan truyền trên mạng xã hội vào năm ngoái đã sử dụng công nghệ deepfake để giả dạng Tổng thống Ukraine Volodymyr Zelenskyy tuyên bố đầu hàng trong cuộc chiến với Nga.

Nhưng phần mềm này cũng có thể tạo ra các nhân vật hoàn chỉnh, vượt xa phần mềm chỉnh sửa truyền thống và các công cụ hiệu ứng đặc biệt đắt tiền được Hollywood sử dụng.

Các chuyên gia về thông tin sai lệch từ lâu đã cảnh báo rằng các video deepfake có thể làm suy giảm khả năng phân biệt đâu là thực đâu là giả của mọi người. Chúng có thể được sử dụng để gây ra tình trạng bất ổn hoặc gây ra một vụ bê bối chính trị. Những dự đoán đó giờ đã trở thành hiện thực.

Việc sử dụng deepfake mở ra một chương mới trong chiến tranh thông tin. Trong những tuần gần đây, một video khác sử dụng công nghệ AI đã được phát hiện trực tuyến, cho thấy hình ảnh một số người do AI tạo ra tự nhận mình là người Mỹ và thúc đẩy hỗ trợ cho chính phủ Burkina Faso.

Ông Stubbs cho biết phần mềm AI, có thể dễ dàng mua trực tuyến. "Người dùng có thể tạo video chỉ trong vài phút và chỉ mất vài USD một tháng”, ông nói. “Điều đó giúp việc sản xuất nội dung trên quy mô lớn trở nên dễ dàng hơn".

Graphika đã liên kết hai người dẫn chương trình giả của Wolf News với công nghệ do Synthesia tạo ra. Một khách hàng chỉ cần nhập một tập lệnh, sau đó tập lệnh này sẽ được đọc bởi một trong những diễn viên kỹ thuật số được tạo bằng các công cụ của Synthesia.

Các hình ảnh AI dựa trên ngoại hình của các diễn viên được thuê và có thể được điều khiển để nói nhiều ngôn ngữ, cũng như tông giọng khác nhau. Người dùng có thể tùy chỉnh giới tính, độ tuổi, dân tộc, tông giọng và lựa chọn gu thời trang khác nhau.

Phần mềm của công ty chủ yếu được khách hàng sử dụng cho nguồn nhân lực và video đào tạo. Phần mềm này có giá chỉ 30 USD/tháng, và người dùng có thể tạo ra các video trong vài phút thay vì phải mất nhiều chi phí thuê đội quay và diễn viên. Synthesia cho biết toàn bộ quá trình “dễ như viết email”.

Victor Riparbelli, đồng sáng lập và giám đốc điều hành của Synthesia, cho biết những người sử dụng công nghệ của họ để tạo ra các video sai sự thật kể trên đã vi phạm điều khoản dịch vụ của công ty. Những điều khoản đó nêu rõ rằng công nghệ của công ty không được sử dụng cho “nội dung chính trị, tình dục, cá nhân, tội phạm và phân biệt đối xử”. Ông cho biết tài khoản của họ đã bị khóa.

Cần các quy định để kiểm soát AI

Riparbelli nói thêm rằng Synthesia có một nhóm 4 người chuyên ngăn chặn việc sử dụng công nghệ deepfake để tạo nội dung bất hợp pháp, nhưng ông cũng cho biết các thông tin sai lệch và các tài liệu không bao gồm lời nói căm thù, bôi nhọ và hình ảnh tục tĩu sẽ rất khó bị phát hiện và ngăn chặn kịp thời.

“Rất khó để xác định rằng đây là thông tin sai lệch,” ông nói sau khi được xem một trong những video của Wolf News. Ông cũng cho biết mình “chịu hoàn toàn trách nhiệm về bất kỳ điều gì xảy ra trên nền tảng" và kêu gọi các nhà hoạch định chính sách đặt ra các quy tắc rõ ràng hơn về cách thức hoạt động của công cụ AI.

Ông Riparbelli cho biết việc xác định thông tin sai lệch sẽ trở nên khó khăn hơn. Cuối cùng, ông nói thêm, công nghệ deepfake sẽ trở nên đủ tinh vi để “xây dựng một bộ phim Hollywood trên máy tính xách tay mà không cần bất kỳ thứ gì khác”.

Graphika cho biết họ đã phát hiện ra mối liên kết với Synthesia thông qua việc tìm kiếm hình ảnh những người dẫn chương trình. Trên trang web của mình, Synthesia gọi hai nhân vật này là “Anna” và “Jason”.

Các video deepfake đã phát triển trong nhiều năm. Kendrick Lamar đã sử dụng công nghệ này trong một video âm nhạc vào năm ngoái để hóa thân thành Kanye West, Will Smith và Kobe Bryant. Các trang web khiêu dâm đã phải đối mặt với những lời chỉ trích vì trình chiếu các video sử dụng công nghệ này để sao chép trái phép chân dung của các nữ diễn viên nổi tiếng.

Ở Trung Quốc, các công ty AI đã phát triển các công cụ deepfake trong hơn 5 năm. Trong một màn trình diễn công khai tại một hội nghị vào năm 2017, công ty iFlytek của Trung Quốc đã thực hiện một video deepfake về Tổng thống Mỹ Donald J. Trump phát biểu bằng tiếng Quan thoại. IFlytek kể từ đó đã được thêm vào danh sách đen của Mỹ nhằm hạn chế việc bán công nghệ do Mỹ sản xuất vì lý do an ninh quốc gia.

Meta, chủ sở hữu của Facebook, Instagram và WhatsApp, cho biết họ đã xóa ít nhất một tài khoản liên kết với các video deepfake sau khi nhận được tin. 

Theo Graphika, hai video có cái gọi là người dẫn chương trình Wolf News đã được đăng ít nhất 5 lần trong khoảng thời gian từ ngày 22/11 đến ngày 30/11 bởi 5 tài khoản. Các bài đăng sau đó đã được chia sẻ lại bởi ít nhất hai tài khoản khác.

Ông Stubbs cho biết những gì chúng ta đang thấy mới chỉ là khởi đầu, và những người lan truyền thông tin sai lệch sẽ tiếp tục cải thiện các công nghệ để chúng trở nên khó phân biệt hơn.

Hoàng Tôn (theo NYT)