Điều chỉnh kích thước chữ

AI bị các nhà nghiên cứu đánh lừa chỉ bằng giấy bút

(CLO) Khi các nhà nghiên cứu dán mẩu giấy có chữ iPod lên quả táo, trí tuệ nhân tạo (AI) nhận nhầm là chiếc máy nghe nhạc nổi tiếng trong thập niên 2000.

Audio
Một mẫu giấy viết tay dán trên quả táo dễ dàng đánh lừa Clip . Ảnh: Guardian.

Một mẫu giấy viết tay dán trên quả táo dễ dàng đánh lừa Clip . Ảnh: Guardian.

Trí tuệ nhân tạo luôn được xem là bộ máy thông minh. Trong nhiều trường hợp, nó có khả năng phân tích vấn đề rất chính xác. Khi quan sát một quả táo, AI mang tên Clip dễ dàng nhận ra loại trái cây quen thuộc này, thậm chí cung cấp thông tin chủng loại và phân biệt được giống cây.

Nhưng ngay cả những AI thông minh nhất cũng có thể bị đánh lừa bởi cách thức đơn giản. Các nhà nghiên cứu viết chữ iPod vào mẩu giấy và dán lên quả táo, Clip nhận đối tượng này là máy nghe nhạc nổi tiếng của Apple. Trong thử nghiệm khác, họ thêm ký hiệu $ vào ảnh một chú chó, AI tiếp tục hiểu nhầm là heo đất.

Nếu dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. Ảnh: OpenAI.

Nếu dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. Ảnh: OpenAI.

OpenAI, tổ chức nghiên cứu máy học đã tạo ra Clip, gọi điểm yếu này là cuộc tấn công kiểu chữ (typographic attack). Bằng cách khai thác khả năng đọc văn bản mạnh mẽ của AI, ngay cả những bức ảnh chụp ký tự viết tay cũng có thể đánh lừa. Cuộc tấn công này diễn ra một cách tự nhiên, chỉ cần bút và giấy, không đòi hỏi thêm gì về mặt công nghệ.

Giống như GPT-3, hệ thống AI này được tạo ra từ phòng thí nghiệm phục vụ cho mục đích nghiên cứu. Clip giống một mô hình hơn là sản phẩm thương mại. Nhưng cả 2 đều đã đạt được những khả năng ấn tượng trong lĩnh vực của mình, GPT-3 đã viết một bài bình luận cho Guardian vào năm ngoái, trong khi Clip có khả năng nhận biết thế giới thực tốt hơn hầu hết AI hiện nay.