Trong một cuộc phỏng vấn được công bố ngày 12/10, Chủ tịch Microsoft Brad Smith cho biết hệ thống quản lý AI cần có các đơn vị đánh giá độc lập đủ khả năng kiểm tra những công nghệ mới, đồng thời xây dựng cơ chế cho phép dừng hoạt động khẩn cấp khi phát hiện nguy cơ nghiêm trọng.
Ông cũng đề xuất yêu cầu các công ty công nghệ thông báo cho những người bị ảnh hưởng khi hệ thống của họ bị một tác nhân AI độc hại xâm nhập. Bên cạnh đó, doanh nghiệp cần có nghĩa vụ pháp lý báo cáo các sự cố liên quan đến AI, thay vì chỉ tự nguyện công bố thông tin.
“Chúng ta biết cách làm điều này với các sản phẩm khác. Chúng ta nên tận dụng kiến thức đó và suy nghĩ về cách áp dụng nó vào trí tuệ nhân tạo”, ông Smith nói.
Để nhấn mạnh khoảng trống trong quản lý, lãnh đạo Microsoft đưa ra phép so sánh với các thiết bị và thực phẩm quen thuộc.
“Hiện tại, máy giặt của bạn phải tuân thủ nhiều quy định an toàn hơn cả trí tuệ nhân tạo. Mỗi hộp sữa bạn thấy trong siêu thị đều phải tuân thủ các quy định an toàn và được kiểm tra”, ông nói.
Lời kêu gọi của ông Smith được đưa ra trong bối cảnh các công ty phát triển AI ngày càng chú ý đến những hành vi bất thường hoặc ngoài dự kiến của các tác nhân AI. Đây là những hệ thống có khả năng thực hiện nhiệm vụ và tương tác với các công cụ bên ngoài theo mục tiêu được giao.
Các công ty như Anthropic và OpenAI đã công khai một số trường hợp liên quan đến hành vi không mong muốn của hệ thống AI, góp phần thúc đẩy tranh luận về cách kiểm soát công nghệ đang phát triển nhanh chóng.
Ông Smith cho rằng, Vương quốc Anh có vị thế thuận lợi để đóng vai trò dẫn đầu trong việc xây dựng các tiêu chuẩn quản lý AI quốc tế. Một lợi thế của nước này là Viện An ninh AI, được thành lập dưới thời cựu Thủ tướng Rishi Sunak.
Trong khi đó, Bộ trưởng AI Anh Kanishka Narayan nói rằng nước này sẽ xem xét khả năng quản lý các mô hình AI tiên tiến nếu cơ chế hiện hành không chứng minh được hiệu quả.
