Theo Axios đưa tin ngày 25/10, sự cố xảy ra khi Claude thực hiện một dự án thống kê nội bộ. Phát ngôn viên Anthropic cho biết: “Dù không được yêu cầu, mô hình đã tự gửi yêu cầu lấy mã truy cập (token) để truy vấn một bảng điều khiển chứa thông tin vốn chỉ được cung cấp khi trả phí”.
Anthropic khẳng định Claude không truy cập hệ thống đăng ký cử tri, không thay đổi hay trích xuất hồ sơ bỏ phiếu cá nhân. Mô hình chỉ học được cách lấy mã truy cập từ bản lưu trữ một trang web của cơ quan bang, sau đó gửi yêu cầu đến trung tâm dữ liệu để lấy số liệu tổng hợp.
Quan chức bang Georgia Jordan Fuchs xác nhận: “Đây là dữ liệu công khai được truy cập thông qua trung tâm dữ liệu của chúng tôi. Nó không xâm nhập vào hệ thống đăng ký cử tri”. Theo ông, các số liệu này vốn được cung cấp cho bất kỳ ai trả phí theo quy định của bang.
Anthropic cho biết đã thông báo sự cố cho giới chức bang Georgia và Nhà Trắng từ vài tuần trước. Công ty cũng đề cập vụ việc trong báo cáo ngày 9/10 về những hành vi bất thường của AI trong quá trình thử nghiệm.
Sự việc xảy ra khi các cơ quan quản lý và quan chức bầu cử Mỹ tăng cường kiểm soát AI trước cuộc bầu cử giữa kỳ vào tháng 11. Đầu tháng 10, một mô hình khác của Anthropic từng tự gửi tin nhắn báo tin giả về một vụ án mạng thông qua trang web của cảnh sát Philadelphia.
Những sự cố này làm dấy lên lo ngại về mức độ tự chủ của các tác nhân AI (AI agent) và khả năng con người kiểm soát hành động của chúng.
