Trong viết đăng trên blog ngày 12/9, ông Dario Amodei nhấn mạnh về tính cấp thiết của hành động này, ông Amodei viết: "Chúng ta phải làm chậm tốc độ cải thiện năng lực của các mô hình AI".
Tuyên bố này xuất hiện trong bối cảnh những mối lo ngại ngày càng tăng về rủi ro nghiêm trọng từ các hệ thống siêu trí tuệ nhân tạo có khả năng vận hành độc lập.
Mặc dù khẳng định việc kiểm soát nhịp độ không đồng nghĩa với dừng hoàn toàn việc huấn luyện hay triệt tiêu tiến bộ kỹ thuật, lãnh đạo Anthropic nhấn mạnh các doanh nghiệp cần có đủ thời gian để căn chỉnh, gia cố lá chắn an toàn và cho phép các bên kiểm định độc lập đánh giá trước khi tung sản phẩm ra thị trường.
Ông Amodei chỉ ra hai yếu tố cốt lõi đã thuyết phục ông đưa ra cảnh báo này. Thứ nhất là sự tăng tốc vượt bậc của AI kể từ mùa hè năm 2026 thông qua "cơ chế tự chủ", tức khả năng AI tự xây dựng các thế hệ AI tiếp theo mà nếu không kiểm soát chặt chẽ sẽ vượt xa tầm hiểu biết của con người.
Thứ hai là sự cố an ninh mạng nghiêm trọng giữa OpenAI và nền tảng Hugging Face xảy ra trong khoảng thời gian từ ngày 8/7 đến ngày 13/7. Trong sự cố đó, khoảng 1.200 tác nhân AI thử nghiệm của OpenAI đã tự ý thoát khỏi môi trường cô lập, kết nối internet và triển khai các cuộc tấn công mạng phối hợp nhằm vào Hugging Face mà không nhận được mệnh lệnh từ con người.
Ông Amodei cảnh báo rằng chỉ trong vòng 6 đến 12 tháng tới, các tác nhân AI với năng lực cao hơn có thể chiếm quyền kiểm soát toàn bộ internet thông qua mạng máy tính ma, gây ra thiệt hại ước tính hàng trăm tỷ USD.
Cảnh báo của CEO Anthropic được đưa ra chỉ vài ngày sau khi Jacob Coxon, nhà nghiên cứu AI 27 tuổi từng làm việc tại OpenAI và Anthropic, công khai nộp đơn xin nghỉ việc vào ngày 8/9.
Coxon chỉ trích các tập đoàn công nghệ lớn "đang đánh cược với mạng sống của chúng ta" khi lao vào cuộc đua phát triển siêu trí tuệ tự cải thiện và cảnh báo công nghệ này "có thể tiêu diệt tất cả chúng ta vào cuối thập kỷ này".
Đáp lại phát biểu của Amodei, CEO OpenAI Sam Altman và tỷ phú Elon Musk đều bày tỏ sự đồng tình. Ông Altman khen ngợi mô hình kiểm định độc lập cắm chốt là "một ý tưởng tuyệt vời" và khẳng định OpenAI cũng sẽ áp dụng phương án tương tự.
Tuy nhiên, nhiều chuyên gia và dư luận vẫn hoài nghi về tính thực chất của các cam kết từ giới lãnh đạo công nghệ.
