AI bị các nhà nghiên cứu đánh lừa chỉ bằng giấy bút

Thứ năm, 11/03/2021 10:22 AM - 0 Trả lời

(CLO) Khi các nhà nghiên cứu dán mẩu giấy có chữ iPod lên quả táo, trí tuệ nhân tạo (AI) nhận nhầm là chiếc máy nghe nhạc nổi tiếng trong thập niên 2000.

Một mẫu giấy viết tay dán trên quả táo dễ dàng đánh lừa Clip . Ảnh: Guardian.

Một mẫu giấy viết tay dán trên quả táo dễ dàng đánh lừa Clip . Ảnh: Guardian.

Trí tuệ nhân tạo luôn được xem là bộ máy thông minh. Trong nhiều trường hợp, nó có khả năng phân tích vấn đề rất chính xác. Khi quan sát một quả táo, AI mang tên Clip dễ dàng nhận ra loại trái cây quen thuộc này, thậm chí cung cấp thông tin chủng loại và phân biệt được giống cây.

Nhưng ngay cả những AI thông minh nhất cũng có thể bị đánh lừa bởi cách thức đơn giản. Các nhà nghiên cứu viết chữ iPod vào mẩu giấy và dán lên quả táo, Clip nhận đối tượng này là máy nghe nhạc nổi tiếng của Apple. Trong thử nghiệm khác, họ thêm ký hiệu $ vào ảnh một chú chó, AI tiếp tục hiểu nhầm là heo đất.

Nếu dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. Ảnh: OpenAI.

Nếu dán chữ iPod lên quả táo, Clip cho rằng có tới 99,7% khả năng đây là iPod. Ảnh: OpenAI.

OpenAI, tổ chức nghiên cứu máy học đã tạo ra Clip, gọi điểm yếu này là cuộc tấn công kiểu chữ (typographic attack). Bằng cách khai thác khả năng đọc văn bản mạnh mẽ của AI, ngay cả những bức ảnh chụp ký tự viết tay cũng có thể đánh lừa. Cuộc tấn công này diễn ra một cách tự nhiên, chỉ cần bút và giấy, không đòi hỏi thêm gì về mặt công nghệ.

Giống như GPT-3, hệ thống AI này được tạo ra từ phòng thí nghiệm phục vụ cho mục đích nghiên cứu. Clip giống một mô hình hơn là sản phẩm thương mại. Nhưng cả 2 đều đã đạt được những khả năng ấn tượng trong lĩnh vực của mình, GPT-3 đã viết một bài bình luận cho Guardian vào năm ngoái, trong khi Clip có khả năng nhận biết thế giới thực tốt hơn hầu hết AI hiện nay.

PV

Tin khác

Realme 12 Lite trình làng với màn hình 90Hz, chip Snapdragon 685

Realme 12 Lite trình làng với màn hình 90Hz, chip Snapdragon 685

(CLO) Realme vừa trình làng chiếc điện thoại realme 12 Lite mới. Máy thực chất là realme C67 4G được đổi tên, smartphone được công bố vào năm ngoái với màn hình LCD 90Hz, chip Snapdragon 685 và camera chính 108MP.

Sức sống số
Lenovo ra mắt ThinkBook X AI 2024

Lenovo ra mắt ThinkBook X AI 2024

(CLO) Lenovo đã chính thức giới thiệu ThinkBook X AI 2024. Sản phẩm mang trong mình sức mạnh đáng kinh ngạc từ CPU Intel Core Ultra thế hệ mới nhất, kết hợp với thiết kế mỏng nhẹ, phù hợp với những chuyên gia và người sáng tạo nội dung cần di chuyển nhiều.

Sức sống số
Samsung ra mắt chip nhớ di động DRAM có tốc độ nhanh nhất thế giới

Samsung ra mắt chip nhớ di động DRAM có tốc độ nhanh nhất thế giới

(CLO) Samsung vừa công bố mẫu chip nhớ di động DRAM mới có tốc độ nhanh nhất thế giới, lên tới 10,7 Gbps. Đây là một bước đột phá đáng kể trong lĩnh vực công nghệ bộ nhớ, giúp tăng hiệu suất và tiết kiệm năng lượng cho các thiết bị di động.

Sức sống số
Chi tiết Tecno Camon 30 Premier 5G ra mắt toàn cầu

Chi tiết Tecno Camon 30 Premier 5G ra mắt toàn cầu

(CLO) Tecno mới đây đã trình làng chiếc điện thoại Camon 30 Premier 5G trên thị trường toàn cầu. Máy sở hữu chip Dimensity 8020, 4 camera 50MP và pin 5000 mAh và hệ thống loa kép có hỗ trợ Dolby Atmos.

Sức sống số
Vivo Y200i trình làng với chip Snapdragon 4 Gen 2, pin khủng 6000 mAh

Vivo Y200i trình làng với chip Snapdragon 4 Gen 2, pin khủng 6000 mAh

(CLO) Vivo mới đây đã trình làng chiếc điện thoại thuộc dòng Y-series tại thị trường Trung Quốc, có tên gọi là vivo Y200i. Máy được trang bị pin khủng 6000 mAh, chip Snapdragon 4 Gen 2 và màn hình 120Hz, giá từ 5,73 triệu đồng.

Sức sống số