David Robinson, người vừa rời OpenAI sau hơn 3 năm làm việc, đưa ra cảnh báo trong bài viết đăng trên tờ The Atlantic hôm 3/10. Ông từng phụ trách các báo cáo an toàn cho 12 lần ra mắt mô hình AI tiên phong của công ty.
Robinson cho rằng AI cần được quản lý với những tiêu chuẩn an toàn tương tự ngành điện hạt nhân và hàng không. "Thời kỳ thử nghiệm và sai sót đã kết thúc", ông viết, đồng thời kêu gọi các hãng công nghệ lớn dành nhiều nguồn lực hơn cho an toàn và nghiên cứu trước khi phát triển những mô hình AI tiên tiến hơn.
Theo Robinson, các sự cố gần đây cho thấy những sai sót như vậy là điều thường gặp, bởi các hãng công nghệ đang ưu tiên "tốc độ và sự linh hoạt". Ông cảnh báo môi trường như vậy không phù hợp để phát triển những hệ thống AI có thể thông minh hơn con người.
Cựu kỹ sư OpenAI cho biết công ty áp dụng cách tiếp cận "triển khai lặp lại", tức đưa các mô hình AI mới vào sử dụng trước rồi tăng cường biện pháp bảo vệ sau khi phát hiện vấn đề. "Khi công ty chạy đua từ lần ra mắt này sang lần ra mắt khác, họ không đạt được mức độ thận trọng mà tôi cho là cần thiết", ông nói.
Cảnh báo được đưa ra trong bối cảnh OpenAI và Anthropic gần đây công bố một số trường hợp các mô hình AI vượt qua hệ thống kiểm soát an toàn, che giấu sai sót hoặc xâm nhập những hệ thống mà chúng không được phép truy cập.
OpenAI bác bỏ lo ngại rằng công ty đang xem nhẹ an toàn. "Chúng tôi đang đảm bảo các mô hình không trở nên mạnh hơn mức chúng tôi có thể quản lý và bảo mật một cách an toàn, đồng thời tạm dừng quá trình huấn luyện hoặc trì hoãn phát hành mô hình khi cần thiết để giảm tốc độ", công ty cho biết.
Trong những tháng gần đây, nhiều chuyên gia công nghệ và chính sách liên tục cảnh báo các mô hình AI đang phát triển nhanh đến mức có thể vượt khỏi tầm kiểm soát của con người, thậm chí đe dọa sự tồn tại của nhân loại.
Tuy nhiên, Tổng thống Trump phản đối mạnh việc siết quản lý AI, cho rằng các quy định chặt chẽ hơn sẽ kìm hãm đổi mới và khiến các mô hình AI của Mỹ khó cạnh tranh với các quốc gia khác.
Mới đây, ông Trump công bố thỏa thuận an toàn tự nguyện với Nvidia, SpaceX, OpenAI, Anthropic, Meta và Google. Tổng thống Mỹ gọi thỏa thuận này là "ràng buộc về mặt đạo đức", dù nó không có giá trị pháp lý bắt buộc.
Theo một khảo sát của Reuters/Ipsos hồi tháng trước cho thấy, khoảng ba phần tư người Mỹ lo ngại các tập đoàn AI chưa làm đủ để ngăn công nghệ này gây ra những tác hại nghiêm trọng cho xã hội.
