An ninh mạng phải được tích hợp ngay từ khâu thiết kế cho AI

Tại hội thảo "AI & Cyber Security - Kiến tạo tương lai bảo mật thông minh", các chuyên gia hàng đầu đã có những góc nhìn đa chiều, nhấn mạnh vai trò then chốt của AI trong phát triển và bảo vệ hệ thống số, đồng thời cảnh báo về những rủi ro tiềm ẩn nếu không kiểm soát chặt chẽ.

Ba trụ cột phát triển AI bền vững: thể chế, công nghệ, nguồn nhân lực

Từ góc độ an ninh quốc gia, Trung tướng Nguyễn Minh Chính, Phó Chủ tịch Thường trực Hiệp hội An ninh mạng Quốc gia, cho rằng AI đã và đang thâm nhập sâu vào mọi lĩnh vực, từ điều hành nhà nước đến bảo vệ chủ quyền số, trở thành trụ cột không thể thiếu trong chiến lược phát triển đất nước.

Ông nhấn mạnh rằng trí tuệ nhân tạo không chỉ là công nghệ nền tảng, mà còn là yếu tố định đoạt sức mạnh số của một quốc gia trong thế kỷ XXI. Trong bối cảnh đó, đảm bảo an ninh mạng cho các hệ thống AI không thể là bước làm “bổ sung”, mà phải là điều kiện mặc định ngay từ khâu thiết kế, triển khai đến giám sát vận hành.

Theo Trung tướng, nguy cơ không chỉ đến từ các cuộc tấn công mạng ngày càng tinh vi mà còn xuất phát từ sự lạm dụng AI để vi phạm pháp luật, tạo mã độc, giả mạo giọng nói, khuôn mặt, làm giả tài liệu, gây bất ổn xã hội và phá hoại niềm tin. Nếu không có một hệ sinh thái phát triển AI đi kèm với an ninh mạng và đạo đức công nghệ, ranh giới giữa phát triển và tự hủy có thể trở nên mong manh.

Ba trụ cột mà ông đề xuất: thể chế, công nghệ và nguồn nhân lực - là câu trả lời cho sự phát triển AI bền vững. Về thể chế, ông kêu gọi sớm hoàn thiện hành lang pháp lý với tầm nhìn dài hạn, đặc biệt là Luật AI, gắn với các tiêu chuẩn kỹ thuật, đạo đức và giám sát.

Về công nghệ, ông khẳng định Việt Nam phải làm chủ được các lớp công nghệ lõi, từ thuật toán, điện toán đám mây đến bảo mật dữ liệu, với nguyên tắc “bảo mật ngay từ thiết kế”. Còn về con người, ông cảnh báo rằng chính các kỹ sư, nhà quản lý và người dùng sẽ quyết định giá trị và giới hạn của AI, chứ không phải chính thuật toán.

"Trong một thế giới vận hành bằng dữ liệu, thì nhận thức, đạo đức và ý thức pháp luật của con người vẫn là rào chắn cuối cùng trước hỗn loạn", Trung tướng Nguyễn Minh Chính khẳng định.

Tấn công AI tinh vi, doanh nghiệp thiếu chiến lược và nhân lực

Ở góc độ thực tiễn triển khai trong doanh nghiệp và tổ chức, ông Nguyễn Xuân Hoàng, Chủ tịch Liên minh An toàn thông tin CYSEEX, chia sẻ những ghi nhận đáng chú ý về tốc độ và mức độ tinh vi trong các cuộc tấn công mạng sử dụng AI.

Ông cho rằng AI đang trở thành “con dao hai lưỡi”: nếu bị khai thác bởi tin tặc, AI có thể giúp chúng phát động tấn công có chủ đích, nhanh hơn và khó truy dấu hơn bao giờ hết; nhưng nếu được sử dụng đúng cách, AI sẽ trở thành "chuyên gia ảo" hỗ trợ con người phát hiện sớm, phân tích chính xác và phản ứng nhanh chóng với các mối đe dọa.

Thực tế trong quá trình vận hành hệ thống an toàn thông tin của CYSEEX cho thấy các cuộc diễn tập tấn công - phòng thủ đã giúp phát hiện hàng trăm lỗ hổng trong hệ thống doanh nghiệp, với thời gian phản ứng được rút ngắn đến 50% nhờ ứng dụng AI. Việc xây dựng nền tảng chia sẻ mối đe dọa chung với hơn 100 triệu chỉ số tấn công (IoCs) đã góp phần tạo ra một “lá chắn tập thể” trên không gian mạng, thay vì mỗi tổ chức phải tự phòng thủ trong cô lập.

Tuy nhiên, ông Hoàng cũng chỉ rõ một nghịch lý: nhiều doanh nghiệp chưa có đủ chiến lược để ứng dụng AI một cách bài bản và an toàn. Sự thiếu hụt nguồn nhân lực an ninh mạng, tâm lý chủ quan và đầu tư manh mún đang khiến một số hệ thống trở thành “mục tiêu mềm” của các cuộc tấn công sử dụng AI.

Ông cảnh báo rằng chỉ cần một mô hình AI huấn luyện sai dữ liệu, bị thao túng (data poisoning) hoặc bị tấn công bằng kỹ thuật "prompt injection", toàn bộ hệ thống có thể trở thành công cụ phản chủ, thay vì phòng thủ.

Theo Chủ tịch CYSEEX, trong bối cảnh các nguy cơ về an ninh mạng ngày càng gia tăng, đặc biệt khi hacker lợi dụng AI để tiến hành tấn công, xâm nhập hệ thống ngày càng tinh vi và khó lường. Theo thống kê năm 2024, tấn công mạng có yếu tố AI tăng hơn 60% so với năm trước, gây thiệt hại toàn cầu hàng trăm tỷ đô la. AI vừa là thách thức mới, vừa là "chìa khóa vàng" giúp các tổ chức phát hiện, ứng phó, bảo vệ hệ thống chủ động, nhanh chóng và hiệu quả hơn tới 45%.

"Trí tuệ nhân tạo là cơ hội vàng, nhưng cũng là bài kiểm tra khắt khe nhất cho tầm nhìn và năng lực bảo vệ không gian mạng của quốc gia trong thế kỷ mới. Và ai làm chủ được AI – sẽ làm chủ được tương lai số của chính mình", Chủ tịch CYSEEX nhấn mạnh.