Hệ thống camera AI của Flock và các thiết bị đọc biển số khác đang được sử dụng rộng rãi để giám sát giao thông và truy bắt tội phạm. Tuy nhiên, những sai sót trong việc đọc biển số và nhập dữ liệu đã khiến nhiều người vô tội bị cảnh sát bắt giữ hoặc đối xử thô bạo, gây ra những hậu quả nghiêm trọng và tranh cãi về tính an toàn của công nghệ này.
Các camera của Flock và các hệ thống đọc biển số xe khác thực hiện việc quét hàng loạt với khoảng 20 tỷ biển số mỗi tháng. Mặc dù nhà cung cấp khẳng định độ chính xác đạt từ 93% đến 99%, con số này vẫn đồng nghĩa với hàng triệu lỗi xảy ra trong thực tế.
Những sai sót thường xuất phát từ việc nhập liệu thủ công, như nhầm lẫn giữa chữ O và số 0 trong biển số xe, dẫn đến các cảnh báo sai và việc cảnh sát dừng xe hoặc bắt giữ nhầm người.
Nhiều trường hợp đáng chú ý đã được ghi nhận, trong đó có Joel Feder bị tạm giữ oan do dữ liệu biển số xe bị đánh cắp không chính xác, Kyle Dausman liên tục bị cảnh sát dừng xe vì lỗi nhập liệu nhầm lẫn ký tự trên biển số tại Colorado và Brandon Upchurch bị bắt giữ một cách bạo lực sau khi camera AI đọc sai biển số xe của anh.
Vấn đề càng trở nên nghiêm trọng khi cảnh sát dựa quá nhiều vào các cảnh báo từ hệ thống mà không xác minh kỹ thông tin, dẫn đến những cuộc chạm trán nguy hiểm, đặc biệt ảnh hưởng nặng nề đến cộng đồng người da màu.
Những sự cố này cho thấy các thách thức lớn về công nghệ, quản lý dữ liệu và quy trình làm việc của cảnh sát. Sai sót trong hệ thống có thể gây ra hậu quả nghiêm trọng, thậm chí đe dọa tính mạng con người do các cảnh báo sai lệch.
Các chuyên gia và cộng đồng đang kêu gọi cải tiến công nghệ, nâng cao độ chính xác và quy trình kiểm tra chặt chẽ hơn để giảm thiểu rủi ro và bảo vệ quyền lợi của người dân trước các hệ thống giám sát tự động.
