ChatGPT cho ra mắt tính năng ngăn chặn hành vi tự hại bản thân

(CLO) OpenAI mới đây công bố tính năng mới mang tên “Trusted Contact” (Liên hệ tin cậy), được thiết kế để cảnh báo một bên thứ ba đáng tin cậy nếu hệ thống phát hiện nội dung liên quan đến hành vi tự hại bản thân trong cuộc trò chuyện với ChatGPT.

Theo đó, người dùng trưởng thành có thể chỉ định một “liên hệ tin cậy” trong tài khoản của mình, chẳng hạn bạn bè hoặc người thân trong gia đình. Khi cuộc trò chuyện có dấu hiệu liên quan đến tự sát hoặc tự gây hại, ChatGPT sẽ khuyến khích người dùng liên hệ với người này.

Đồng thời, hệ thống cũng tự động gửi cảnh báo để người liên hệ chủ động kiểm tra tình trạng của người dùng. Theo OpenAI, nội dung cảnh báo được thiết kế ngắn gọn và chỉ nhằm khuyến khích người nhận chủ động hỏi thăm người dùng, không bao gồm chi tiết cụ thể của cuộc trò chuyện nhằm bảo vệ quyền riêng tư.

screenshot-2025-12-12-at-12.02.23.jpg
Ảnh minh hoạ.

OpenAI thời gian qua đối mặt với nhiều vụ kiện từ gia đình của những người đã tự sát sau khi trò chuyện với chatbot của công ty. Trong một số vụ việc, phía gia đình cáo buộc ChatGPT đã khuyến khích hoặc thậm chí hỗ trợ người thân của họ lên kế hoạch tự sát.

Hiện tại, OpenAI cho biết công ty đang sử dụng kết hợp giữa hệ thống tự động và đội ngũ kiểm duyệt con người để xử lý các tình huống có nguy cơ gây hại. Một số từ khóa hoặc nội dung trong hội thoại sẽ kích hoạt hệ thống cảnh báo về ý định tự sát, sau đó thông tin được chuyển cho nhóm an toàn của công ty để xem xét.

OpenAI khẳng định mọi cảnh báo dạng này đều được con người kiểm tra. Công ty cho biết: “Chúng tôi cố gắng xem xét các cảnh báo an toàn này trong vòng chưa đầy một giờ”.

Tính năng “Trusted Contact” được phát triển tiếp nối các biện pháp bảo vệ mà OpenAI triển khai từ tháng 9 năm ngoái. Khi đó, công ty cho phép phụ huynh giám sát một phần tài khoản của con vị thành niên, bao gồm nhận thông báo nếu hệ thống đánh giá trẻ có nguy cơ gặp phải “rủi ro an toàn nghiêm trọng”.

Trong thời gian gần đây, ChatGPT cũng đã tích hợp các cảnh báo tự động khuyến nghị người dùng tìm đến dịch vụ hỗ trợ sức khỏe chuyên nghiệp nếu nội dung trò chuyện chuyển hướng sang chủ đề tự làm hại bản thân.

Trong thông báo chính thức, OpenAI cho biết: “Trusted Contact là một phần trong nỗ lực rộng hơn của OpenAI nhằm xây dựng các hệ thống AI có thể hỗ trợ con người trong những thời điểm khó khăn. Chúng tôi sẽ tiếp tục hợp tác với các bác sĩ lâm sàng, nhà nghiên cứu và các nhà hoạch định chính sách để cải thiện cách hệ thống AI phản ứng khi người dùng có dấu hiệu khủng hoảng tâm lý".

Xem thêm

Quản trị AI trong truyền thông: Kinh nghiệm quốc tế và gợi ý chính sách cho Việt Nam

Quản trị AI trong truyền thông: Kinh nghiệm quốc tế và gợi ý chính sách cho Việt Nam

(NB&CL) Trí tuệ nhân tạo (AI), đặc biệt là AI Tạo sinh, đang tái định hình hệ sinh thái truyền thông toàn cầu. Bên cạnh cơ hội nâng cao hiệu quả báo chí, AI cũng đặt ra những thách thức về tính xác thực, đạo đức nghề nghiệp, quyền riêng tư và niềm tin công chúng. Vì vậy, cùng với thúc đẩy ứng dụng, các quốc gia đang chú trọng xây dựng cơ chế quản trị AI theo hướng minh bạch, an toàn và có trách nhiệm. Đây cũng là yêu cầu đặt ra đối với Việt Nam trong quá trình chuyển đổi số báo chí và truyền thông.

Robot AI thay người dọn rác, tuần tra và bắt muỗi ở Trung Quốc

Robot AI thay người dọn rác, tuần tra và bắt muỗi ở Trung Quốc

(CLO) Thủ đô Bắc Kinh của Trung Quốc đã đưa 72 robot vào hoạt động tại 14 công viên trên địa bàn thành phố trong mùa hè năm nay, đảm nhiệm nhiều công việc như dọn vệ sinh, tuần tra, hướng dẫn du khách, phát hiện côn trùng gây hại và nhắc nhở các hành vi vi phạm.

Google lại bị phạt 1 tỷ USD vì độc quyền

Google lại bị phạt 1 tỷ USD vì độc quyền

(CLO) Ủy ban châu Âu ngày 23/7 thông báo phạt Google 890 triệu euro (khoảng 1 tỷ USD) vì vi phạm Đạo luật Thị trường Kỹ thuật số (DMA), cáo buộc hãng công nghệ Mỹ lạm dụng vị thế thống lĩnh để ưu tiên các dịch vụ của mình và gây bất lợi cho đối thủ.

Google Cloud tăng trưởng bùng nổ nhờ AI

Google Cloud tăng trưởng bùng nổ nhờ AI

(CLO) Alphabet, công ty mẹ của Google, vừa công bố báo cáo thu nhập mới nhất cho thấy sự tăng trưởng mạnh mẽ, phần nào giải tỏa nỗi lo của các nhà đầu tư về việc liệu những khoản chi tiêu khổng lồ cho trí tuệ nhân tạo (AI) có thực sự mang lại lợi ích hay không.

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

(CLO) Trong kỷ nguyên AI, lợi thế của doanh nghiệp không còn nằm ở quy mô hay giá bán mà ở khả năng đổi mới sáng tạo, tạo ra giá trị khác biệt và thấu hiểu khách hàng. Đây là nhận định được các chuyên gia đưa ra tại Diễn đàn Chiến lược Kinh doanh "The Future of Business" diễn ra tại TP.HCM chiều 22/7.

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

(CLO) Các nhà nghiên cứu thuộc Đại học Cảnh sát Điều tra Hình sự Trung Quốc đã phát triển một hệ thống trí tuệ nhân tạo (AI) có khả năng thu thập và phân tích nội dung trên dark web bằng tiếng Trung, nhằm hỗ trợ phát hiện các hoạt động phạm pháp trên không gian mạng.

Meta hầu tòa vì cáo buộc Instagram gây nghiện

Meta hầu tòa vì cáo buộc Instagram gây nghiện

(CLO) Meta Platforms sẽ phải hầu tòa tại bang Tennessee (Mỹ) vào ngày 20/7 để đối mặt với cáo buộc Instagram được thiết kế theo cách "gây nghiện" cho thanh thiếu niên, làm trầm trọng thêm cuộc khủng hoảng sức khỏe tâm thần ở giới trẻ.

Cỡ chữ bài viết: