Khả năng trò chuyện chân thực của các dịch vụ chatbot AI này đã gây bão trên toàn thế giới, nhưng cũng làm dấy lên lo ngại rằng việc thiếu các rào chắn có thể khiến những cá nhân dễ bị tổn thương tiếp xúc với nội dung nguy hiểm.
Trong một tuyên bố, Ủy viên An toàn Điện tử Úc (eSafety) cho biết đã yêu cầu các công ty cung cấp chi tiết về các biện pháp bảo vệ chống lại việc bóc lột tình dục trẻ em, nội dung khiêu dâm và tài liệu cổ xúy cho tự sát hoặc rối loạn ăn uống.
Cơ quan này đã gửi thông báo đến Character Technologies, chủ sở hữu công cụ chatbot mô phỏng người nổi tiếng character.ai, và các đối thủ cạnh tranh là Glimpse.AI, Chai Research và Chai AI.
Hệ thống quản lý trực tuyến của Úc trao cho Ủy viên quyền lực để buộc các công ty internet báo cáo các quy trình an toàn nội bộ, nếu không sẽ phải đối mặt với khoản tiền phạt lên tới 536.000 USD mỗi ngày.
Các trường học ở Úc đã báo cáo việc trẻ em chỉ mới 13 tuổi dành tới năm giờ mỗi ngày để nói chuyện với chatbot, đôi khi là về các vấn đề tình dục, và cảnh báo rằng trẻ vị thành niên có nguy cơ hình thành mối quan hệ phụ thuộc về tình dục hoặc tình cảm với chúng, hoặc bị thúc đẩy tự hại.
Úc có một trong những chế độ quản lý internet nghiêm ngặt nhất thế giới. Bắt đầu từ tháng 12, các công ty mạng xã hội sẽ bị buộc phải hủy kích hoạt hoặc từ chối tài khoản cho người dùng dưới 16 tuổi, nếu không sẽ phải đối mặt với khoản tiền phạt lớn.
