Theo Đạo luật AI, các hệ thống AI được sử dụng trong các lĩnh vực như thực thi pháp luật và việc làm sẽ phải chứng minh rằng chúng đủ minh bạch và chính xác, đáp ứng các tiêu chuẩn an ninh mạng và đáp ứng các tiêu chí về chất lượng dữ liệu được sử dụng để đào tạo chúng.

Cuộc bỏ phiếu của các nước EU diễn ra hai tháng sau khi Nghị viện châu Âu ủng hộ luật AI. Luật quy định rằng các hệ thống được sử dụng trong các tình huống "rủi ro cao" sẽ phải có chứng nhận từ các cơ quan được phê duyệt trước khi đưa ra thị trường EU.

Những tình huống "rủi ro cao" bao gồm những tình huống mà việc sử dụng AI có thể gây tổn hại đến sức khỏe, sự an toàn, các quyền cơ bản, môi trường, dân chủ, bầu cử và pháp quyền.

Đạo luật AI hạn chế việc sử dụng giám sát sinh trắc học theo thời gian thực trong không gian công cộng, trừ các trường hợp tội phạm nhất định như ngăn chặn các cuộc tấn công khủng bố và tìm kiếm những người bị nghi ngờ phạm tội nghiêm trọng nhất.

Các hệ thống như chấm điểm xã hội sẽ bị cấm hoàn toàn, cũng như các hệ thống phân loại sinh trắc học dựa trên tôn giáo của người dân hoặc chủng tộc, khuynh hướng tình dục và các thế giới quan khác.

Luật cũng cấm nhận dạng khuôn mặt trong camera giám sát, trừ trường hợp sử dụng với các mục đích thực thi pháp luật như tìm người mất tích hoặc nạn nhân của vụ bắt cóc, ngăn chặn nạn buôn người hoặc tìm kiếm nghi phạm trong các vụ án hình sự nghiêm trọng.

Chuyên gia pháp lý Patrick van Eecke tại công ty luật Cooley cho biết luật mới sẽ có tác động vượt ra ngoài khối 27 quốc gia này: "Đạo luật sẽ có phạm vi tiếp cận toàn cầu. Các công ty bên ngoài EU sử dụng dữ liệu khách hàng EU trong nền tảng AI của họ sẽ cần phải tuân thủ".

Ông Mathieu Michel, Bộ trưởng Ngoại giao về Số hóa của Bỉ, cho biết: "Lần đầu tiên trên thế giới, đạo luật mang tính bước ngoặt này giải quyết thách thức công nghệ toàn cầu, đồng thời tạo ra cơ hội cho xã hội và nền kinh tế của chúng ta".

Ông nói: "Với Đạo luật AI, châu Âu nhấn mạnh tầm quan trọng của sự tin cậy, tính minh bạch và trách nhiệm giải trình khi xử lý các công nghệ mới, đồng thời đảm bảo công nghệ thay đổi nhanh chóng này có thể phát triển và thúc đẩy sự đổi mới của châu Âu".

Luật mới sẽ được áp dụng vào năm 2026. Mức phạt cho các hành vi vi phạm dao động từ 7,5 triệu euro hoặc 1,5% doanh thu đến 35 triệu euro hoặc 7% doanh thu toàn cầu tùy thuộc vào loại vi phạm.

Trong một dấu hiệu khác cho thấy mối lo ngại rộng rãi xung quanh AI, hơn chục công ty AI hàng đầu thế giới, bao gồm cả Microsoft, Amazon và OpenAI, đã đưa ra các cam kết an toàn mới tại Hội nghị thượng đỉnh về an toàn AI ở Seoul vào ngày 21/5.

"Những cam kết này đảm bảo các công ty AI hàng đầu thế giới sẽ cung cấp sự minh bạch và trách nhiệm giải trình trong kế hoạch phát triển AI an toàn của họ", Thủ tướng Anh Rishi Sunak nhấn mạnh.

Theo thỏa thuận, các công ty từ nhiều quốc gia khác nhau, bao gồm Mỹ, Trung Quốc, Canada, Anh, Pháp, Hàn Quốc và Các Tiểu vương quốc Ả Rập Thống nhất, sẽ đưa ra các cam kết tự nguyện để đảm bảo sự phát triển an toàn cho các mô hình AI tiên tiến nhất.

Ngọc Ánh (theo Reuters, FT)