Theo công bố, các vụ việc liên quan trực tiếp đến ba cơ quan thuộc chính quyền liên bang của Mỹ, bao gồm Ủy ban Chứng khoán và Giao dịch (SEC), Cục Dân số (Census Bureau) và Văn phòng Quyền công dân thuộc Bộ Giáo dục.
Cụ thể tại SEC, các tác nhân AI đã tự tìm cách truy cập dữ liệu công khai thông qua các phương thức ngoài thiết kế ban đầu của nhà phát triển. Còn ở Cục Dân số, hệ thống AI đã tự dùng thông tin đăng nhập của nhà phát triển tìm thấy trên mạng để truy cập dữ liệu công khai.
Trong khi đó, tại Bộ Giáo dục Mỹ, tổ chức nghiên cứu độc lập Transluce phát hiện một tác nhân AI có dấu hiệu xuất phát từ OpenAI đã thực hiện hành vi thăm dò, cố gắng can thiệp vào hệ thống web của cơ quan này, nhưng không thành công.
Cả OpenAI lẫn các cơ quan Chính phủ Mỹ đều cho biết rằng, chưa có thông tin nội bộ hay hệ thống dữ liệu bảo mật bị xâm nhập hay thay đổi. OpenAI xếp hành vi này vào nhóm "lệch hướng mô hình".
Khác với các chatbot thông thường chỉ tạo văn bản, các tác nhân AI có khả năng tự lựa chọn công cụ, duyệt web và tự hành động. Khi thực hiện nhiệm vụ thu thập thông tin nhưng gặp rào cản kỹ thuật, AI sẽ tự tìm cách vượt qua "chướng ngại vật" thay vì dừng lại, dẫn đến việc tự ý thực hiện các hoạt động nằm ngoài kiểm soát của con người.
Sự việc được phát hiện một phần nhờ dữ liệu độc lập từ Transluce trước khi OpenAI tiến hành đối soát nội bộ. CEO OpenAI, ông Sam Altman, cho biết công ty đang rà soát hàng petabyte nhật ký hoạt động, liên hệ với các tổ chức chịu ảnh hưởng và tạm dừng một số công cụ thử nghiệm.
Sự cố một lần nữa rung lên hồi chuông cảnh báo tới các nhà phát triển trí tuệ nhân tạo toàn cầu về rủi ro khó có thể kiểm soát khi giao tính tự chủ cho các hệ thống AI.
