Trong một bức thư ngỏ, nhóm gồm 11 nhân viên hiện tại và cựu nhân viên của OpenAI và Google DeepMind cho rằng các động cơ tài chính của các công ty AI cản trở việc giám sát hiệu quả.
Bức thư cảnh báo về các rủi ro từ AI không được kiểm soát, từ việc lan truyền thông tin sai lệch đến việc mất kiểm soát các hệ thống AI độc lập và làm sâu sắc thêm các bất ổn hiện có, điều này có thể dẫn đến "sự tuyệt chủng của con người".
Các nhà nghiên cứu đã phát hiện các ví dụ về các công cụ tạo hình ảnh từ các công ty bao gồm OpenAI và Microsoft tạo ra những bức ảnh với thông tin sai lệch liên quan đến bầu cử, mặc dù có chính sách chống lại nội dung như vậy.
Bức thư cũng cho biết các công ty AI có "nghĩa vụ yếu" trong việc chia sẻ thông tin với các quốc gia về khả năng và hạn chế của các hệ thống của họ, và không thể dựa vào "sự tự nguyện" của các công ty này khi chia sẻ thông tin đó.
Bức thư ngỏ này là cảnh báo mới nhất nêu lên những lo ngại về an toàn liên quan đến công nghệ AI tạo sinh, có thể nhanh chóng sản xuất văn bản, hình ảnh và âm thanh giống như con người với chi phí cực thấp.
Nhóm các nhân viên này đã kêu gọi các công ty AI tạo điều kiện cho quá trình để nhân viên hiện tại và cựu nhân viên nêu lên các mối quan ngại liên quan đến rủi ro và không thực thi các thỏa thuận bảo mật nhằm ngăn cản việc phê bình.
OpenAI do Sam Altman lãnh đạo đã thông báo vào thứ Năm rằng họ đã phá vỡ 5 chiến dịch ngầm nhằm sử dụng các mô hình trí tuệ nhân tạo của họ cho các hoạt động "lừa đảo" trên internet.
Hồng Hạnh (theo Reuters)
