Chatbot AI khuyên các doanh nghiệp phạm pháp ở New York

Khi ra mắt thử nghiệm vào tháng 10, chatbot MyCity đã được quảng cáo là ứng dụng công nghệ AI đầu tiên trên toàn thành phố, thứ sẽ cung cấp cho chủ doanh nghiệp "thông tin hữu ích và đáng tin cậy" trên cổng thông tin trực tuyến.

Tuy nhiên, điều đó không phải lúc nào đúng. Các nhà báo tại cơ quan điều tra The Markup lần đầu tiên đưa tin vào tuần trước rằng chatbot cung cấp nhiều phản hồi sai. Nó đã đưa ra lời khuyên sai lầm rằng người sử dụng lao động có thể cắt giảm tiền boa của công nhân và không có quy định nào yêu cầu ông chủ phải thông báo về việc thay đổi lịch làm việc của nhân viên.

Thị trưởng Adams nói với các phóng viên hôm thứ Ba: “Nó sai ở một số chỗ và chúng tôi phải sửa chữa nó”, ông nhấn mạnh rằng đây là một chương trình thí điểm. “Bất cứ khi nào bạn sử dụng công nghệ, bạn cần đưa nó vào môi trường thực tế để giải quyết những khuyết điểm”.

chatbot ai khuyen cac doanh nghiep pham phap o new york hinh 1

Thị trưởng Thành phố New York Eric Adams.

Adams là người ủng hộ nhiệt tình cho việc triển khai công nghệ chưa được thử nghiệm trong thành phố với một thái độ lạc quan. Năm ngoái, ông đã cho đặt một con robot hình trứng ở ga tàu điện ngầm Quảng trường Thời đại mà ông hy vọng sẽ giúp cảnh sát ngăn chặn tội phạm; nó đã ngừng hoạt động khoảng 5 tháng sau đó, nhiều người cho biết rằng nó dường như không bao giờ hoạt động được.

Chatbot MyCity dựa trên dịch vụ Azure AI của Microsoft.

Microsoft từ chối cho biết điều gì có thể gây ra sự cố nhưng cho biết trong một tuyên bố rằng họ đang làm việc với thành phố để khắc phục chúng. Văn phòng Công nghệ và Đổi mới của thành phố cho biết trong một tuyên bố rằng “ngay trong tuần tới, chúng tôi hy vọng sẽ giảm thiểu đáng kể các câu trả lời không chính xác”.

Cả Microsoft và Tòa thị chính đều không trả lời các câu hỏi về nguyên nhân gây ra lỗi và cách khắc phục chúng.

Thành phố đã cập nhật tuyên bố từ chối trách nhiệm trên trang web chatbot MyCity, lưu ý rằng “các phản hồi của nó đôi khi có thể không chính xác hoặc không đầy đủ” và yêu cầu các doanh nghiệp “không sử dụng phản hồi của nó như lời khuyên pháp lý hoặc chuyên nghiệp”.

Andrew Rigie, giám đốc của Liên minh Khách sạn NYC, cho biết: “Tôi khen ngợi thành phố đã cố gắng sử dụng AI để hỗ trợ các doanh nghiệp, nhưng nó cần phải hoạt động hiệu quả”, đồng thời cảnh báo rằng việc làm theo một số hướng dẫn của chatbot có thể mang lại hậu quả pháp lý nghiêm trọng. "Nếu khi tôi đặt một câu hỏi và sau đó tôi phải quay lại gặp luật sư của mình để biết câu trả lời có đúng hay không thì điều đó có ý nghĩa gì".

Mai Anh (theo Reuters)

Xem thêm

CEO tạm quyền Colette Kress của Nvidia là ai?

CEO tạm quyền Colette Kress của Nvidia là ai?

(CLO) Sự ra đi đột ngột của đồng sáng lập Jensen Huang giữa vòng xoáy bê bối đã buộc Nvidia lập tức bổ nhiệm Giám đốc Tài chính Colette Kress làm quyền Tổng Giám đốc (CEO). Cuộc khủng hoảng thượng tầng không chỉ khiến cổ phiếu "gã khổng lồ" chip AI chao đảo, mà còn đặt ra bài toán khó cho ban lãnh đạo mới trong việc duy trì động lực đổi mới công nghệ.

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

Google sẽ mặc định tắt công cụ AI trên tài khoản học sinh

(CLO) Google sẽ mặc định tắt các công cụ trí tuệ nhân tạo (AI) trên tài khoản học sinh từ mầm non đến lớp 12 từ đầu năm 2027. Tuy nhiên, các trường muốn ngăn học sinh sử dụng AI có thể phải chặn luôn quyền truy cập Google Search truyền thống.

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

Sàn Binance bị hacker tấn công, 'bốc hơi' khối tài sản hàng tỷ USD

(CLO) Binance, sàn giao dịch tiền mã hóa lớn nhất thế giới, vừa hứng chịu một vụ tấn công mạng quy mô lớn ngày 29/10, với hàng tỷ USD tài sản bị chuyển khỏi các ví nóng của nền tảng. Sự việc lập tức gây chấn động thị trường toàn cầu, khiến hàng loạt đồng tiền chủ chốt lao dốc không phanh.

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

Hy Lạp thông qua lệnh cấm trẻ dưới 15 tuổi sử dụng mạng xã hội

(CLO) Từ ngày 1/1/2027, trẻ em dưới 15 tuổi tại Hy Lạp sẽ chính thức bị cấm sử dụng mạng xã hội theo đạo luật vừa được Quốc hội nước này thông qua. Động thái siết chặt quản lý này là một phần trong nỗ lực chung của châu Âu nhằm bảo vệ trẻ em trên môi trường mạng và buộc các nền tảng phải có trách nhiệm xác minh độ tuổi người dùng.

Nguy cơ ảo tưởng hiểu biết khi dùng AI

Nguy cơ ảo tưởng hiểu biết khi dùng AI

(CLO) Giáo sư Trung Quốc Yi Mou cảnh báo AI có thể khiến người dùng ảo tưởng về hiểu biết của bản thân nếu thiếu kỹ năng kiểm chứng thông tin và tư duy độc lập.

Cỡ chữ bài viết: