Trong bài đăng trên mạng xã hội X ngày 10/10, ông Nadella kêu gọi giới công nghệ đánh giá lại “kiến trúc tạo dựng niềm tin” đối với AI.
“Chúng ta không thể coi siêu trí tuệ là một tập hợp các hộp đen lồng vào nhau, rồi đơn giản chấp nhận hoặc bác bỏ các khuyến nghị, câu trả lời và hành động của chúng”, ông viết.
Siêu trí tuệ (Super Intelligence, viết tắt: SI) là thuật ngữ được chính quyền Tổng thống Donald Trump ưu tiên sử dụng để nói về AI.
Theo CEO Microsoft, cần tách mô hình AI khỏi hệ thống điều phối hoạt động của nó, đồng thời đưa các cơ chế kiểm soát và bảo vệ ra bên ngoài mô hình. Ông cũng đề xuất ghi lại mọi hành động quan trọng của AI bằng bằng chứng có thể đọc được và chống chỉnh sửa trái phép.
Bên cạnh đó, hệ thống phải bảo đảm người có thẩm quyền luôn có khả năng tạm dừng hoặc tắt mô hình ngay giữa nhiệm vụ.
“Chúng ta phải giả định rằng mô hình đã bị xâm nhập và triển khai biện pháp cô lập ngay từ đầu. Hãy hình dung điều đó giống như một chiếc phanh khẩn cấp”, ông Nadella nói.
Những bình luận của CEO Microsoft được đưa ra khi các công ty AI hàng đầu ngày càng thừa nhận nhiều sự cố cho thấy họ dường như gặp khó khăn trong việc kiểm soát các mô hình của mình. Trong đó, các tác nhân AI có khả năng tự thực hiện nhiệm vụ đặt ra những thách thức mới về giám sát và bảo đảm an toàn.
Trước đó, CEO Anthropic Dario Amodei cũng công bố kế hoạch phát triển AI thận trọng hơn, nhấn mạnh nhu cầu kiểm soát tốc độ tiến bộ của những mô hình tiên tiến nhất.
Các đề xuất này phản ánh mối quan tâm ngày càng lớn của ngành công nghệ về cách duy trì quyền kiểm soát của con người đối với những hệ thống AI có khả năng thực hiện các nhiệm vụ phức tạp và hành động với mức độ tự chủ cao.
