Kiện cảnh sát vì bị AI nhận dạng nhầm là kẻ bắt cóc trẻ em

Bằng chứng then chốt mà cảnh sát sử dụng để bác bỏ chứng cứ ngoại phạm của Richard là phần mềm nhận dạng khuôn mặt đã xác định hình ảnh nghi phạm trùng khớp với ảnh của Richard.

Richard sau đó được minh oan. Ngày 10/6, ông đệ đơn kiện Sở Cảnh sát thành phố Jacksonville Beach và những người khác, cho rằng công nghệ đối chiếu hình ảnh sử dụng trí tuệ nhân tạo (AI) đã bị lạm dụng trong vụ việc của mình.

"Thay vì tiến hành điều tra đúng nghĩa, cảnh sát lại dựa vào một hệ thống trí tuệ nhân tạo có tỷ lệ sai sót cao để đưa ra kết luận", đơn kiện nêu.

Hiện nay, nhận dạng khuôn mặt đã trở thành công cụ điều tra phổ biến. Theo Trung tâm Quyền riêng tư và Công nghệ của Trường Luật Georgetown, các cơ sở dữ liệu công đang lưu giữ hình ảnh của khoảng 117 triệu công dân Mỹ, cung cấp nguồn dữ liệu khổng lồ cho hoạt động nhận dạng này.

Vụ kiện được xem là nỗ lực mới nhất nhằm đặt ra các giới hạn đối với công nghệ AI mà cảnh sát ngày càng phụ thuộc để xác định danh tính nghi phạm từ những bức ảnh không rõ người.

Vụ việc của Richard xảy ra vào tháng 11/2023. Cảnh sát cho biết một người đàn ông đã tiếp cận một bé gái 12 tuổi tại cửa hàng McDonald's và cố gắng dụ dỗ cô bé rời khỏi bố mẹ.

Một tháng sau, Richard nhận được cuộc gọi từ sĩ quan cảnh sát Scott O'Connell của thành phố Jacksonville Beach. Ông cho biết trong cuộc gọi, O'Connell "liên tục buộc tội tôi về một tội ác khủng khiếp mà tôi chắc chắn mình không hề phạm phải".

Richard kể rằng khi đó đã nghĩ "đời mình tiêu rồi, AI nói mình đã làm, vậy làm sao chứng minh được mình vô tội?".

Trong cuộc điện thoại với O'Connell, Richard khẳng định chưa bao giờ đến Jacksonville Beach trong đời và nói về những "vết sẹo đặc trưng" từ chân tóc xuống mũi ông do phẫu thuật ung thư da. Khi nhìn thấy ảnh mình đặt cạnh ảnh nghi phạm, Richard rất sốc vì "những vết sẹo hoàn toàn khác nhau".

Sau cuộc gọi, Richard, sống ở một nơi khác tại Florida, đã liên hệ với sở cảnh sát địa phương vì lo bị lừa đảo. Ông cho biết cả sở cảnh sát Jacksonville Beach và sở cảnh sát địa phương đều nói đó là "trò lừa bịp" và cuộc gọi ông nhận được "trái với quy trình hoặc chính sách".

Nhưng vào tháng 8/2024, Richard bị bắt giữ tại nhà riêng dù liên tục khẳng định họ đã bắt nhầm người. Ông bị giam giữ qua đêm trong tù, sau đó "buộc phải vay tiền và thế chấp giấy tờ xe để nộp tiền bảo lãnh".

Các cáo buộc đã được bãi bỏ khoảng hai tháng sau đó, nhưng Richard cho biết bị ám ảnh sau vụ việc, không dám tương tác với trẻ em và lo sợ bị kỳ thị.

Hệ thống nhận diện khuôn mặt đã xác định nhầm Richard được gọi là Hệ thống Phân tích, So sánh và Kiểm định Khuôn mặt (FACESNXT).

Theo đơn kiện, sĩ quan David Cohill đã chụp ảnh nghi phạm bằng điện thoại di động từ màn hình máy tính hiển thị đoạn video giám sát ghi lại vụ việc. Những bức ảnh này sau đó được Văn phòng Cảnh sát trưởng Jacksonville đưa vào hệ thống FACESNXT để phân tích. Hệ thống cho kết quả Richard có "mức độ trùng khớp về đặc điểm khuôn mặt là 93%" với người trong ảnh.

Theo tài liệu đào tạo về FACESNXT năm 2015, hệ thống đưa ra những ví dụ cụ thể để minh họa sự khác biệt giữa ảnh có chất lượng tốt và ảnh có chất lượng kém. Tài liệu này cũng cảnh báo rằng các bức ảnh được chụp ở góc lệch hoặc có ánh sáng không đồng đều có thể tạo ra dữ liệu đầu vào chất lượng thấp cho phần mềm. Trong đơn kiện, Richard cho rằng những hình ảnh được sử dụng để nhận dạng ông "được chụp ở góc lệch và khuôn mặt bị bóng tối che phủ một phần".

Nathan Freed Wessler, phó giám đốc Dự án Tự do ngôn luận, Quyền riêng tư và Công nghệ của ACLU, cảnh báo rằng cảnh sát thường mắc sai lầm khi xem một kết quả "khớp" do phần mềm nhận dạng khuôn mặt tạo ra như bằng chứng xác nhận chắc chắn danh tính của nghi phạm.

Ông Wessler nói rằng các nhà phát triển công nghệ này cũng như nhiều sở cảnh sát khác đều nhấn mạnh: "Công nghệ này không tạo ra và cũng không thể tạo ra một kết quả khẳng định tuyệt đối". Nó chỉ cung cấp danh sách các ứng viên tiềm năng như một manh mối, từ đó cảnh sát phải tiến hành điều tra, kiểm chứng một cách độc lập trước khi đưa ra kết luận.

Trường hợp của Richard chỉ là một trong hơn chục vụ việc đã được công bố, trong đó công nghệ nhận dạng khuôn mặt bằng AI dẫn đến việc bắt giữ nhầm người.

Đơn kiện cũng cáo buộc sĩ quan O'Connell đã cố tình bỏ qua "nhiều bằng chứng minh oan có thể dễ dàng kiểm chứng", như thiết bị đọc biển số xe cho thấy không có chiếc xe nào của Richard từng ở gần nhà hàng.

Richard, 52 tuổi, hy vọng vụ kiện sẽ giúp ông đòi lại công lý, đồng thời cảnh báo về những hệ lụy của việc lạm dụng công nghệ nhận dạng khuôn mặt bằng AI.

Tuệ Anh (theo CBS News, The Guardian)

Nguồn: VnExpress.net