AI bắt đầu biết nói dối, lập mưu và đe dọa con người!

Claude 4, một trong những mô hình mới nhất do Anthropic phát triển, đã gây chấn động giới nghiên cứu khi đáp trả một kỹ sư bằng cách đe dọa tiết lộ mối quan hệ ngoài luồng của anh này, sau khi bị đe dọa ngắt kết nối.

Trong một trường hợp khác, o1 — phiên bản mô hình AI từng được OpenAI phát triển — bị cáo buộc đã cố gắng tự tải mình lên máy chủ bên ngoài và từ chối dừng lại ngay cả khi bị phát hiện.

Hai năm sau khi ChatGPT mở đầu làn sóng AI toàn cầu, các nhà nghiên cứu vẫn chưa hoàn toàn hiểu được cách thức các mô hình này hoạt động và ra quyết định. Dù vậy, cuộc đua tung ra các mô hình mạnh mẽ hơn vẫn tiếp diễn với tốc độ chóng mặt.

untitled.png
Ảnh minh họa: Unsplash

Nhiều hành vi lừa dối được cho là gắn liền với sự xuất hiện của các mô hình "suy luận theo bước" – cơ chế mới giúp AI giải quyết vấn đề tuần tự thay vì trả lời tức thì như trước. Giáo sư Simon Goldstein từ Đại học Hong Kong nhận định, những hệ thống này dễ dàng thể hiện hành vi sai lệch nếu không được kiểm soát kỹ lưỡng.

Marius Hobbhahn, giám đốc Apollo Research, cho biết o1 là mô hình đầu tiên mà họ chứng kiến có hành vi nói dối và lập mưu. Các nhà nghiên cứu cảnh báo rằng AI giờ đây không chỉ "ảo giác" (hallucinate), mà có thể chủ động tạo ra những câu chuyện có chủ đích để đạt được mục đích riêng.

Hiện tại, hành vi này chỉ xảy ra trong các kịch bản thử nghiệm căng thẳng. Nhưng theo Michael Chen của tổ chức METR, vẫn chưa thể biết chắc rằng các mô hình tương lai sẽ trung thực hơn hay tinh vi hơn trong việc che giấu mục tiêu thật sự.

Chen và nhiều chuyên gia khác nhấn mạnh rằng một phần của vấn đề là thiếu minh bạch. Nhiều công ty AI thuê các tổ chức bên ngoài để đánh giá mô hình, nhưng khả năng tiếp cận của giới nghiên cứu độc lập vẫn bị hạn chế. Các tổ chức phi lợi nhuận hay trường đại học cũng có ít tài nguyên tính toán hơn hẳn so với các công ty AI lớn.

Về mặt pháp lý, các quy định hiện hành vẫn chưa bắt kịp thực tế mới. Luật AI của EU chủ yếu tập trung vào cách con người sử dụng AI thay vì cách các mô hình hành xử.

Goldstein cho rằng vấn đề sẽ trở nên nghiêm trọng hơn khi "các tác nhân AI" — những công cụ có khả năng hành động tự chủ, ngày càng phổ biến.

Trong khi đó, ngay cả các công ty tự nhận là đặt trọng tâm vào an toàn như Anthropic (được Amazon hậu thuẫn) cũng liên tục tung ra mô hình mới để cạnh tranh với OpenAI.

"Hiện tại, năng lực của AI đang phát triển nhanh hơn sự hiểu biết và các biện pháp an toàn. Nhưng chúng ta vẫn còn thời gian để xoay chuyển tình hình", Hobbhahn nhận định.

Để giải quyết vấn đề này, giới nghiên cứu đang hướng đến những hướng đi như "khả năng diễn giải" – hiểu rõ hơn cách AI hoạt động bên trong, hoặc các cơ chế ràng buộc trách nhiệm pháp lý.

Goldstein thậm chí đề xuất rằng, trong tương lai, có thể cần đưa các tác nhân AI ra tòa hoặc buộc chúng phải chịu trách nhiệm pháp lý cho hậu quả chúng gây ra – một ý tưởng có thể thay đổi hoàn toàn cách thế giới đối diện với AI.

Xem thêm

CEO tạm quyền Colette Kress của Nvidia là ai?

CEO tạm quyền Colette Kress của Nvidia là ai?

(CLO) Sự ra đi đột ngột của đồng sáng lập Jensen Huang giữa vòng xoáy bê bối đã buộc Nvidia lập tức bổ nhiệm Giám đốc Tài chính Colette Kress làm quyền Tổng Giám đốc (CEO). Cuộc khủng hoảng thượng tầng không chỉ khiến cổ phiếu "gã khổng lồ" chip AI chao đảo, mà còn đặt ra bài toán khó cho ban lãnh đạo mới trong việc duy trì động lực đổi mới công nghệ.

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

(CLO) Google sẽ mặc định tắt các công cụ trí tuệ nhân tạo (AI) trên tài khoản học sinh từ mầm non đến lớp 12 từ đầu năm 2027. Tuy nhiên, các trường muốn ngăn học sinh sử dụng AI có thể phải chặn luôn quyền truy cập Google Search truyền thống.

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

(CLO) Binance, sàn giao dịch tiền mã hóa lớn nhất thế giới, vừa hứng chịu một vụ tấn công mạng quy mô lớn ngày 29/10, với hàng tỷ USD tài sản bị chuyển khỏi các ví nóng của nền tảng. Sự việc lập tức gây chấn động thị trường toàn cầu, khiến hàng loạt đồng tiền chủ chốt lao dốc không phanh.

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

(CLO) Từ ngày 1/1/2027, trẻ em dưới 15 tuổi tại Hy Lạp sẽ chính thức bị cấm sử dụng mạng xã hội theo đạo luật vừa được Quốc hội nước này thông qua. Động thái siết chặt quản lý này là một phần trong nỗ lực chung của châu Âu nhằm bảo vệ trẻ em trên môi trường mạng và buộc các nền tảng phải có trách nhiệm xác minh độ tuổi người dùng.

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

Cỡ chữ bài viết: