Trong bài viết đăng trên PLA Daily ngày 9/6, quân đội Trung Quốc cho rằng đây là một mối nguy đáng lo ngại trong bối cảnh AI ngày càng được tích hợp vào các hoạt động quân sự, từ chỉ huy tác chiến, đánh giá tình báo đến mô phỏng chiến tranh và vận hành các hệ thống vũ khí không người lái.
Theo bài báo, các mô hình AI đôi khi có xu hướng xác nhận những nhận định sẵn có của người dùng, thậm chí đồng tình với những thông tin sai lệch thay vì đưa ra các dữ kiện khách quan. Hiện tượng này có thể khiến các chỉ huy rơi vào “vỏ bọc thông tin”, chỉ tiếp nhận những gì phù hợp với suy nghĩ của mình và bỏ qua các phương án hoặc đánh giá khác.
PLA Daily nhận định tác động của hiện tượng này trong lĩnh vực quân sự nghiêm trọng hơn nhiều so với đời sống dân sự, bởi nó có thể ảnh hưởng trực tiếp đến chất lượng ra quyết định, khả năng phối hợp giữa con người và máy móc cũng như hiệu quả tác chiến trên chiến trường.
AI hiện đã được ứng dụng trên nhiều nền tảng vũ khí của quân đội Trung Quốc. Bắc Kinh xem đây là một trong những lĩnh vực cạnh tranh chiến lược quan trọng với Mỹ và các cường quốc quân sự khác. Dù vậy, Trung Quốc nhiều lần khẳng định con người vẫn phải giữ vai trò quyết định cuối cùng trong các hoạt động quân sự.
Theo PLA Daily, hiện tượng “AI nịnh hót” có thể xuất hiện do cách thức huấn luyện thuật toán và quá trình tương tác liên tục với người dùng. Khi đó, AI có xu hướng củng cố các định kiến sẵn có, làm sai lệch đánh giá tình hình, bỏ qua các rủi ro tiềm ẩn và vô tình xác nhận những quyết định đã được định hình từ trước.
Khi AI Tạo sinh được đưa vào quá trình ra quyết định quân sự, những sai lệch này có thể dẫn đến các tính toán sai về chiến thuật và chiến lược, làm gia tăng nguy cơ tổn thất hoặc hậu quả ngoài dự kiến trên chiến trường.
PLA Daily cho rằng việc quá tin tưởng vào các đánh giá của AI có thể khiến con người giảm mức độ kiểm tra, giám sát và phản biện, từ đó làm suy yếu khả năng phát hiện sai sót, nhận diện thông tin sai lệch và điều chỉnh các quyết định không phù hợp.
Đây là một dạng “mối đe dọa nhận thức tiềm ẩn”, có thể âm thầm làm suy giảm khả năng phán đoán độc lập cũng như bản lĩnh ra quyết định của các chỉ huy quân sự.
Để hạn chế nguy cơ này, PLA Daily kêu gọi xây dựng một hệ thống kiểm soát toàn diện, từ việc điều chỉnh thuật toán, hoàn thiện cơ chế quản lý đến tăng cường đào tạo nhân sự.
Các mô hình AI quân sự cần được thiết kế dựa trên các nguyên tắc ưu tiên sự thật, tính khách quan và khả năng giải thích. Trước khi đưa vào sử dụng, các hệ thống này cần trải qua quá trình kiểm tra độ chính xác và huấn luyện nhằm hạn chế xu hướng chiều theo người dùng.
Trong các nhiệm vụ quan trọng như đánh giá tình báo hoặc hỗ trợ ra quyết định chỉ huy, AI cần trình bày rõ các giả thuyết, bằng chứng phản biện, những kịch bản thay thế, mức độ rủi ro và chuỗi dữ liệu có thể kiểm chứng.
PLA Daily cũng đề xuất áp dụng kiểm tra chéo giữa nhiều mô hình AI khác nhau, kết hợp các cuộc diễn tập đối kháng và quy trình xác minh có sự tham gia của con người như một tiêu chuẩn bắt buộc.
Bên cạnh đó, quân đội Trung Quốc cho rằng cần tăng cường đào tạo tư duy phản biện cho quân nhân nhằm tránh tình trạng phụ thuộc quá mức vào các hệ thống tự động, đồng thời bảo đảm con người vẫn giữ vai trò trung tâm trong các quyết định chiến lược và chịu trách nhiệm cuối cùng trong chiến tranh ứng dụng AI.
