Chatbot AI khuyên các doanh nghiệp phạm pháp ở New York

(CLO) Thị trưởng New York, Eric Adams, đang bảo vệ chatbot AI mới của thành phố này, dù nó đưa ra những câu trả lời hoặc lời khuyên sai cho các chủ doanh nghiệp, mà nếu tuân theo sẽ dẫn đến việc vi phạm pháp luật.

Khi ra mắt thử nghiệm vào tháng 10, chatbot MyCity đã được quảng cáo là ứng dụng công nghệ AI đầu tiên trên toàn thành phố, thứ sẽ cung cấp cho chủ doanh nghiệp "thông tin hữu ích và đáng tin cậy" trên cổng thông tin trực tuyến.

Tuy nhiên, điều đó không phải lúc nào đúng. Các nhà báo tại cơ quan điều tra The Markup lần đầu tiên đưa tin vào tuần trước rằng chatbot cung cấp nhiều phản hồi sai. Nó đã đưa ra lời khuyên sai lầm rằng người sử dụng lao động có thể cắt giảm tiền boa của công nhân và không có quy định nào yêu cầu ông chủ phải thông báo về việc thay đổi lịch làm việc của nhân viên.

Thị trưởng Adams nói với các phóng viên hôm thứ Ba: “Nó sai ở một số chỗ và chúng tôi phải sửa chữa nó”, ông nhấn mạnh rằng đây là một chương trình thí điểm. “Bất cứ khi nào bạn sử dụng công nghệ, bạn cần đưa nó vào môi trường thực tế để giải quyết những khuyết điểm”.

chatbot ai khuyen cac doanh nghiep pham phap o new york hinh 1

Thị trưởng Thành phố New York Eric Adams.

Adams là người ủng hộ nhiệt tình cho việc triển khai công nghệ chưa được thử nghiệm trong thành phố với một thái độ lạc quan. Năm ngoái, ông đã cho đặt một con robot hình trứng ở ga tàu điện ngầm Quảng trường Thời đại mà ông hy vọng sẽ giúp cảnh sát ngăn chặn tội phạm; nó đã ngừng hoạt động khoảng 5 tháng sau đó, nhiều người cho biết rằng nó dường như không bao giờ hoạt động được.

Chatbot MyCity dựa trên dịch vụ Azure AI của Microsoft.

Microsoft từ chối cho biết điều gì có thể gây ra sự cố nhưng cho biết trong một tuyên bố rằng họ đang làm việc với thành phố để khắc phục chúng. Văn phòng Công nghệ và Đổi mới của thành phố cho biết trong một tuyên bố rằng “ngay trong tuần tới, chúng tôi hy vọng sẽ giảm thiểu đáng kể các câu trả lời không chính xác”.

Cả Microsoft và Tòa thị chính đều không trả lời các câu hỏi về nguyên nhân gây ra lỗi và cách khắc phục chúng.

Thành phố đã cập nhật tuyên bố từ chối trách nhiệm trên trang web chatbot MyCity, lưu ý rằng “các phản hồi của nó đôi khi có thể không chính xác hoặc không đầy đủ” và yêu cầu các doanh nghiệp “không sử dụng phản hồi của nó như lời khuyên pháp lý hoặc chuyên nghiệp”.

Andrew Rigie, giám đốc của Liên minh Khách sạn NYC, cho biết: “Tôi khen ngợi thành phố đã cố gắng sử dụng AI để hỗ trợ các doanh nghiệp, nhưng nó cần phải hoạt động hiệu quả”, đồng thời cảnh báo rằng việc làm theo một số hướng dẫn của chatbot có thể mang lại hậu quả pháp lý nghiêm trọng. "Nếu khi tôi đặt một câu hỏi và sau đó tôi phải quay lại gặp luật sư của mình để biết câu trả lời có đúng hay không thì điều đó có ý nghĩa gì".

Mai Anh (theo Reuters)

Xem thêm

Google lại bị phạt 1 tỷ USD vì độc quyền

Google lại bị phạt 1 tỷ USD vì độc quyền

(CLO) Ủy ban châu Âu ngày 23/7 thông báo phạt Google 890 triệu euro (khoảng 1 tỷ USD) vì vi phạm Đạo luật Thị trường Kỹ thuật số (DMA), cáo buộc hãng công nghệ Mỹ lạm dụng vị thế thống lĩnh để ưu tiên các dịch vụ của mình và gây bất lợi cho đối thủ.

Google Cloud tăng trưởng bùng nổ nhờ AI

Google Cloud tăng trưởng bùng nổ nhờ AI

(CLO) Alphabet, công ty mẹ của Google, vừa công bố báo cáo thu nhập mới nhất cho thấy sự tăng trưởng mạnh mẽ, phần nào giải tỏa nỗi lo của các nhà đầu tư về việc liệu những khoản chi tiêu khổng lồ cho trí tuệ nhân tạo (AI) có thực sự mang lại lợi ích hay không.

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

Doanh nghiệp Việt muốn bứt phá phải biết dùng AI, không thể mãi cạnh tranh bằng giá

(CLO) Trong kỷ nguyên AI, lợi thế của doanh nghiệp không còn nằm ở quy mô hay giá bán mà ở khả năng đổi mới sáng tạo, tạo ra giá trị khác biệt và thấu hiểu khách hàng. Đây là nhận định được các chuyên gia đưa ra tại Diễn đàn Chiến lược Kinh doanh "The Future of Business" diễn ra tại TP.HCM chiều 22/7.

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

Trung Quốc phát triển AI 'đọc' dark web, phát hiện nội dung phạm pháp

(CLO) Các nhà nghiên cứu thuộc Đại học Cảnh sát Điều tra Hình sự Trung Quốc đã phát triển một hệ thống trí tuệ nhân tạo (AI) có khả năng thu thập và phân tích nội dung trên dark web bằng tiếng Trung, nhằm hỗ trợ phát hiện các hoạt động phạm pháp trên không gian mạng.

Meta hầu tòa vì cáo buộc Instagram gây nghiện

Meta hầu tòa vì cáo buộc Instagram gây nghiện

(CLO) Meta Platforms sẽ phải hầu tòa tại bang Tennessee (Mỹ) vào ngày 20/7 để đối mặt với cáo buộc Instagram được thiết kế theo cách "gây nghiện" cho thanh thiếu niên, làm trầm trọng thêm cuộc khủng hoảng sức khỏe tâm thần ở giới trẻ.

Google thua kiện vụ quảng cáo cờ bạc trên YouTube

Google thua kiện vụ quảng cáo cờ bạc trên YouTube

(CLO) Google đã thất bại trong nỗ lực hủy khoản phạt 750.000 euro liên quan đến các video quảng cáo cờ bạc trên nền tảng YouTube, sau khi Tòa án Công lý Liên minh châu Âu (CJEU) ra phán quyết có lợi cho cơ quan quản lý truyền thông của Ý.

Mạng xã hội X điều chỉnh thuật toán, giúp 'bạn bè' gắn kết hơn

Mạng xã hội X điều chỉnh thuật toán, giúp 'bạn bè' gắn kết hơn

(CLO) Giám đốc sản phẩm của mạng xã hội X, Nikita Bier, ngày 13/7 đã thông báo về một sự thay đổi quan trọng trong cách hiển thị nội dung trên nền tảng này nhằm mục đích tăng khả năng hiển thị các bài đăng từ những người dùng có mối quan hệ hai chiều, tức những tài khoản theo dõi lẫn nhau.

Apple kiện OpenAI với cáo buộc đánh cắp bí mật thương mại

Apple kiện OpenAI với cáo buộc đánh cắp bí mật thương mại

(CLO) Ngày 10/7, Apple đã đệ đơn kiện OpenAI cùng một số cựu nhân viên lên Tòa án Quận Bắc California (Mỹ), cáo buộc công ty này tiến hành một chiến dịch có hệ thống nhằm chiếm đoạt bí mật thương mại về phần cứng để phục vụ tham vọng phát triển thiết bị tiêu dùng.

OpenAI chính thức phát hành mô hình GPT-5.6 mới

OpenAI chính thức phát hành mô hình GPT-5.6 mới

(CLO) Ngày 9/7, OpenAI chính thức phát hành dòng mô hình GPT-5.6 gồm ba phiên bản Sol, Terra và Luna. Đây là lần đầu tiên công ty từ bỏ cách đặt tên bằng số để chuyển sang các tên gọi mới nhằm giúp người dùng dễ phân biệt cấp độ hiệu năng và chi phí giữa các mô hình.

Cỡ chữ bài viết: