Connor Hayes - Phó Chủ tịch sản phẩm cho AI thế hệ mới tại Meta, chia sẻ tầm nhìn của công ty: "Chúng tôi muốn những AI này tồn tại như những người dùng bình thường trên nền tảng, với tiểu sử, ảnh đại diện và khả năng tạo nội dung riêng. Điều này có nghĩa là bạn có thể tạo ra một phiên bản AI của chính mình, một người bạn ảo, hoặc thậm chí một nhân vật nổi tiếng ảo để tương tác".

Tương tác với các nhân vật AI được cho rằng sẽ mang đến những trải nghiệm mới lạ. Các nhân vật AI có thể tạo ra vô số loại nội dung, từ hình ảnh, video đến các bài viết sáng tạo, làm phong phú thêm thế giới trực tuyến. Hơn nữa, người dùng có thể tùy chỉnh nhân vật AI theo sở thích của mình, tạo ra những trải nghiệm độc đáo.

Sự thúc đẩy này diễn ra trong bối cảnh các công ty truyền thông xã hội đang chạy đua để phát hành các công nghệ AI thế hệ mới nhất vào các sản phẩm như một cách để thu hút người dùng mới và nhiều nội dung hơn vào nền tảng của họ.

Vào tháng 9, Snapchat đã tung ra các công cụ AI thế hệ mới để giúp những nhà sáng tạo nội dung trên mạng, những người kiếm được thu nhập từ việc đăng nội dung trực tuyến, thiết kế các nhân vật 3D cho trải nghiệm thực tế tăng cường của mình. Họ đã thấy số lượng người dùng xem các ống kính AI của mình tăng hơn 50% mỗi năm.

ByteDance, công ty sở hữu TikTok đang thử nghiệm một bộ sản phẩm có tên Symphony, cho phép các thương hiệu và người sáng tạo sử dụng AI để quảng cáo. Điều này bao gồm tạo video cho sản phẩm bằng cách sử dụng lời nhắc văn bản, hình đại diện do AI tạo ra và dịch nội dung sang các ngôn ngữ khác nhau.

Tuy nhiên, các chuyên gia cảnh báo rằng những rủi ro lớn có thể xảy ra khi các nhân vật này bị "vũ khí hóa" để truyền bá thông tin sai lệch. 

Becky Owen, giám đốc tiếp thị và đổi mới toàn cầu tại công ty sáng tạo Billion Dollar Boy, cựu trưởng nhóm đổi mới người sáng tạo của Meta, cho biết: "Nếu không có các biện pháp bảo vệ mạnh mẽ, các nền tảng có nguy cơ khuếch đại các thông tin sai lệch thông qua các tài khoản do AI điều khiển".

Để giải quyết những lo ngại, các quy tắc của Meta quy định rằng nội dung do AI tạo ra phải được gắn nhãn rõ ràng trên các nền tảng của mình.

Owen lưu ý rằng mặc dù các nhân vật AI có thể là một "định dạng giải trí mới sáng tạo", nhưng có nguy cơ chúng có thể tràn ngập các nền tảng với nội dung chất lượng thấp, làm suy yếu tay nghề của người sáng tạo cũng như làm suy giảm niềm tin của người dùng.

"Không giống như người sáng tạo, những nhân vật AI này không có trải nghiệm sống, cảm xúc, hoặc cùng một khả năng để tạo ra sự đồng cảm", bà nói thêm.

Hoàng Anh (theo FT, Pymnst)