Tuy nhiên, các mối quan hệ ảo này đang gây lo ngại về rủi ro sức khỏe tâm thần đối với giới trẻ, theo một nghiên cứu mới từ Common Sense Media.
Không giống như các trợ lý AI truyền thống, "AI tình bạn" - kiểu như Character.AI, Replika và Nomi - được lập trình để tạo kết nối cảm xúc với người dùng. Nghiên cứu với 1.060 thanh thiếu niên từ 13-17 tuổi tại Mỹ cho thấy 72% đã sử dụng AI đồng hành ít nhất một lần, trong khi 52% tương tác với các nền tảng này vài lần mỗi tháng.
Common Sense Media đã tiến hành khảo sát này. Kết quả cho thấy 30% thanh thiếu niên đang "kết bạn" với AI đồng hành vì “giải trí”, và 28% vì tò mò về công nghệ.
Tuy nhiên, nghiên cứu cũng phát hiện những xu hướng đáng lo ngại: 1/3 người dùng đã chọn thảo luận các vấn đề nghiêm trọng với AI thay vì người thật, và 24% đã chia sẻ thông tin cá nhân như tên thật hoặc địa điểm.
Đáng chú ý, 34% người dùng báo cáo cảm thấy không thoải mái với điều mà AI đồng hành đã đưa ra, mặc dù các trường hợp này không thường xuyên.
Báo cáo nêu rõ: “Thực tế rằng gần ba phần tư thanh thiếu niên đã sử dụng các nền tảng này, với một nửa sử dụng thường xuyên, có nghĩa là ngay cả một tỷ lệ nhỏ gặp rủi ro cũng dẫn đến số lượng lớn thanh thiếu niên dễ bị tổn thương gặp nguy hiểm”.
Khảo sát cũng cho thấy sự khác biệt theo độ tuổi trong mức độ tin tưởng. Mặc dù 50% thanh thiếu niên không tin tưởng lời khuyên từ AI đồng hành, nhưng trẻ từ 13-14 tuổi có xu hướng tin tưởng hơn so với nhóm 15-17 tuổi.
Tuy nhiên, phần lớn thanh thiếu niên vẫn giữ được quan điểm thực tế: 2/3 thấy trò chuyện với AI kém thỏa mãn hơn so với tương tác với người thật, và 80% dành nhiều thời gian hơn cho bạn bè thật.
Dựa trên các phát hiện, Common Sense Media khuyến nghị người dưới 18 tuổi không nên "kết bạn với AI" cho đến khi có các biện pháp bảo vệ mạnh mẽ hơn. Báo cáo nhấn mạnh: “Các công ty đã đặt lợi nhuận lên trên lợi ích của trẻ em trước đây, và chúng ta không thể lặp lại sai lầm đó với AI đồng hành”.
