Tài liệu nêu rõ rủi ro “mất kiểm soát đối với kiến thức và năng lực của vũ khí hạt nhân, sinh học, hóa học và tên lửa”, khi AI được huấn luyện bằng các tập dữ liệu đa dạng, bao gồm cả lý thuyết liên quan đến thiết kế và sử dụng vũ khí.
Báo cáo cảnh báo nếu thiếu giám sát, các nhóm cực đoan và khủng bố có thể lợi dụng khả năng “tạo thông tin tăng cường truy xuất” để thu thập và phát triển công nghệ chế tạo vũ khí, làm suy yếu hệ thống kiểm soát hiện có và đe dọa an ninh toàn cầu.
Khung quản trị mới do Ủy ban Kỹ thuật Tiêu chuẩn hóa An ninh mạng quốc gia Trung Quốc công bố, với sự tham gia soạn thảo của Nhóm kỹ thuật ứng phó khẩn cấp mạng máy tính. Đây là những cơ quan trực thuộc nhà nước, chịu trách nhiệm giám sát an ninh mạng và đưa ra biện pháp ứng phó trước các mối đe dọa.
Trong tài liệu trước đó công bố năm 2023, Trung Quốc đã chỉ ra rủi ro từ công nghệ AI sử dụng kép có thể làm giảm rào cản đối với việc phổ biến vũ khí hạt nhân. Lần cập nhật này đi sâu hơn vào các mối nguy đạo đức, bao gồm tác động của AI đối với giáo dục, khả năng gây nghiện, việc bắt chước hành vi giống con người và nguy cơ con người mất kiểm soát.
Cảnh báo được đưa ra trong bối cảnh các cường quốc quân sự, trong đó có Trung Quốc, thúc đẩy tích hợp AI vào lĩnh vực quốc phòng. Báo cáo dẫn ví dụ cuộc tấn công của Israel vào Iran hồi tháng 6, trong đó sử dụng kỹ thuật AI để đạt hiệu quả quân sự.
Tài liệu kết luận rằng việc ngăn chặn những rủi ro không kiểm soát được là điều cấp thiết nhằm bảo đảm AI luôn nằm trong sự kiểm soát của con người, tránh đe dọa đến sự tồn vong và phát triển của nhân loại.
