OpenAI thừa nhận mối nguy hiểm trên trình duyệt AI

(CLO) Các trình duyệt AI như ChatGPT Atlas mở ra tiện ích vượt trội, nhưng cũng mang theo một thách thức an ninh nguy hại: "tấn công Prompt injection".

Prompt injection là hình thức tấn công phi kỹ thuật, chèn yêu cầu độc hại vào nội dung do AI xử lý trên website hoặc email. OpenAI nhận định: "Tấn công prompt injection, cũng giống như các hình thức lừa đảo và tấn công phi kỹ thuật trên web, gần như không thể được ‘giải quyết’ hoàn toàn".

Thay vì tìm giải pháp triệt để, OpenAI chuyển sang chiến lược phòng thủ liên tục. Họ phát triển một "kẻ tấn công tự động" dựa trên AI, được huấn luyện bằng học tăng cường để tự tìm lỗ hổng, mô phỏng tấn công và thử nghiệm hệ thống từ bên trong.

openai-prompt-injection-demo-2.png.webp
OpenAI minh hoạ phương thức tấn công Prompt injection.

Nỗ lực của OpenAI không phải là cá biệt. Các đối thủ cạnh tranh như Google và Anthropic cũng đang tập trung vào việc xây dựng các lớp phòng thủ nhiều tầng và liên tục kiểm tra hệ thống.

Một số khuyến nghị an toàn cho người dùng bao gồm: Yêu cầu xác nhận: Thiết lập để AI luôn hỏi ý kiến bạn trước khi thực hiện hành động quan trọng; Hạn chế quyền truy cập: Đưa ra chỉ thị cụ thể, tập trung thay vì cấp quyền truy cập rộng và mơ hồ; Giới hạn quyền đăng nhập: Chỉ cấp quyền cho AI vào tài khoản nhạy cảm khi thực sự cần thiết.

Tương lai của trình duyệt AI hứa hẹn nhưng đòi hỏi thái độ thận trọng. An toàn phụ thuộc vào nỗ lực không ngừng của nhà phát triển trong việc củng cố phòng thủ và ý thức chủ động bảo vệ của người dùng.

Xem thêm

Công cụ AI mới của Trung Quốc giúp truy vết rửa tiền bằng Bitcoin

Công cụ AI mới của Trung Quốc giúp truy vết rửa tiền bằng Bitcoin

(CLO) Các nhà nghiên cứu thuộc Đại học Công an Nhân dân Trung Quốc đã phát triển một hệ thống trí tuệ nhân tạo (AI) có khả năng phát hiện các giao dịch tiền điện tử bất hợp pháp với độ chính xác gần 90%, đánh dấu bước tiến mới trong nỗ lực kiểm soát tội phạm tài chính.

Úc phá kỷ lục thế giới với thỏi vàng nặng hơn 500 kg

Úc phá kỷ lục thế giới với thỏi vàng nặng hơn 500 kg

(CLO) Một thỏi vàng nặng 521,2 kg do Xưởng đúc tiền Perth (Perth Mint) tại bang Tây Úc chế tác đã chính thức được Tổ chức Kỷ lục Guinness Thế giới công nhận là thỏi vàng lớn nhất thế giới, vượt xa kỷ lục cũ 300 kg do một xưởng đúc tại Dubai thiết lập cách đây hai năm.

Trung Quốc bác bỏ cáo buộc lao động cưỡng bức của Mỹ

Trung Quốc bác bỏ cáo buộc lao động cưỡng bức của Mỹ

(CLO) Bộ Thương mại Trung Quốc phản đối quyết định của Mỹ về việc đưa thêm 43 doanh nghiệp Trung Quốc vào danh sách các thực thể bị cáo buộc liên quan đến lao động cưỡng bức, cho rằng động thái này không có cơ sở thực tế và làm gián đoạn sự ổn định của chuỗi cung ứng toàn cầu.

Ấn Độ, Trung Quốc khôi phục giao thương qua đèo Himalaya

Ấn Độ, Trung Quốc khôi phục giao thương qua đèo Himalaya

(CLO) Sau 6 năm đóng cửa vì đại dịch COVID-19 và căng thẳng biên giới, đèo Nathu La - cửa khẩu nằm ở độ cao hơn 4.300 m nối bang Sikkim của Ấn Độ với khu tự trị Tây Tạng của Trung Quốc - đã chính thức khôi phục hoạt động thương mại từ ngày 1/8.

Xin visa Mỹ có thể phải đặt cọc tới 20.000 USD

Xin visa Mỹ có thể phải đặt cọc tới 20.000 USD

(CLO) Bộ Ngoại giao Mỹ sẽ duy trì vĩnh viễn chương trình bảo lãnh visa, theo đó người xin thị thực từ 50 quốc gia, phần lớn ở châu Phi, có thể phải đặt cọc tới 20.000 USD trước khi được cấp visa, theo thông báo ngày 1/8.

Chủ tịch FIFA rút lại kế hoạch 'bán World Cup'

Chủ tịch FIFA rút lại kế hoạch 'bán World Cup'

(CLO) Chủ tịch FIFA Gianni Infantino đã từ bỏ kế hoạch bán cổ phần tại các giải đấu của FIFA, trong đó có World Cup, cho các nhà đầu tư tư nhân sau khi vấp phải làn sóng phản đối mạnh mẽ từ các liên đoàn bóng đá trên thế giới.

Phi công Malaysia buôn lậu hơn 26 kg ma túy bị bắt tại Indonesia

Phi công Malaysia buôn lậu hơn 26 kg ma túy bị bắt tại Indonesia

(CLO) Cơ quan Hải quan Indonesia đã bắt giữ một phi công người Malaysia với cáo buộc buôn lậu hơn 26 kg ma túy tổng hợp MDMA vào Jakarta ngay sau khi điều khiển chuyến bay từ Kuala Lumpur, đồng thời xác định người này dương tính với nhiều chất ma túy.

Hamas đạt thỏa thuận giải giáp vũ khí ở Gaza

Hamas đạt thỏa thuận giải giáp vũ khí ở Gaza

(CLO) Hamas cùng các phe phái Palestine đã thống nhất một văn kiện đặt nền tảng cho quá trình giải giáp vũ khí tại Dải Gaza. Các bên sẽ xây dựng lộ trình giải giáp chi tiết trong vòng 14 ngày, có thể gia hạn nếu được cơ quan giám sát quốc tế chấp thuận và tất cả các bên đồng thuận.

Cỡ chữ bài viết: