OpenAI thừa nhận mối nguy hiểm trên trình duyệt AI

Prompt injection là hình thức tấn công phi kỹ thuật, chèn yêu cầu độc hại vào nội dung do AI xử lý trên website hoặc email. OpenAI nhận định: "Tấn công prompt injection, cũng giống như các hình thức lừa đảo và tấn công phi kỹ thuật trên web, gần như không thể được ‘giải quyết’ hoàn toàn".

Thay vì tìm giải pháp triệt để, OpenAI chuyển sang chiến lược phòng thủ liên tục. Họ phát triển một "kẻ tấn công tự động" dựa trên AI, được huấn luyện bằng học tăng cường để tự tìm lỗ hổng, mô phỏng tấn công và thử nghiệm hệ thống từ bên trong.

openai-prompt-injection-demo-2.png.webp
OpenAI minh hoạ phương thức tấn công Prompt injection.

Nỗ lực của OpenAI không phải là cá biệt. Các đối thủ cạnh tranh như Google và Anthropic cũng đang tập trung vào việc xây dựng các lớp phòng thủ nhiều tầng và liên tục kiểm tra hệ thống.

Một số khuyến nghị an toàn cho người dùng bao gồm: Yêu cầu xác nhận: Thiết lập để AI luôn hỏi ý kiến bạn trước khi thực hiện hành động quan trọng; Hạn chế quyền truy cập: Đưa ra chỉ thị cụ thể, tập trung thay vì cấp quyền truy cập rộng và mơ hồ; Giới hạn quyền đăng nhập: Chỉ cấp quyền cho AI vào tài khoản nhạy cảm khi thực sự cần thiết.

Tương lai của trình duyệt AI hứa hẹn nhưng đòi hỏi thái độ thận trọng. An toàn phụ thuộc vào nỗ lực không ngừng của nhà phát triển trong việc củng cố phòng thủ và ý thức chủ động bảo vệ của người dùng.

Xem thêm

Kế hoạch vượt ngục bằng drone của trùm ma túy bị bại lộ

Kế hoạch vượt ngục bằng drone của trùm ma túy bị bại lộ

(CLO) Kế hoạch vượt ngục bằng thiết bị bay không người lái (drone) đầy táo bạo của Park Wang Yeol, một trùm ma túy Hàn Quốc đang thụ án tại Philippines, đã bị đập tan sau khi đoạn video quay cảnh đồng phạm của hắn diễn tập bay thử bị rò rỉ ra ngoài.

Phát hiện răng voi khổng lồ hơn 10.000 năm tuổi bên bờ suối

Phát hiện răng voi khổng lồ hơn 10.000 năm tuổi bên bờ suối

(CLO) Một chiếc răng hóa thạch của voi răng mấu Thái Bình Dương (Pacific Mastodon) - loài thú khổng lồ thời tiền sử, họ hàng xa của voi hiện đại và có ngoại hình khá giống voi ma mút - vừa được phát hiện dưới lòng một con suối ở California, Mỹ.

Triều Tiên cam kết mở rộng hợp tác với Nga

Triều Tiên cam kết mở rộng hợp tác với Nga

(CLO) Chủ tịch Triều Tiên Kim Jong Un cam kết "mở rộng và đào sâu" hợp tác với Nga, đồng thời khẳng định sự ủng hộ không thay đổi đối với chiến dịch quân sự của Nga ở Ukraine, theo KCNA đưa tin.

Cỡ chữ bài viết: