Máy dò vũ khí AI của New York sẽ phát triển giải quyết vấn đề hay tạo ra vấn đề mới?

Thành phố New York gần đây tuyên bố sẽ bắt đầu triển khai việc sử dụng máy dò vũ khí AI, được đặt tên là Evolv, trên các tàu điện ngầm của thành phố để sàng lọc hành khách.

“Tôi đang nói với họ rằng họ cần phải phát triển và đưa nó ra ngoài, bởi vì tôi nghĩ đó là công nghệ tốt,” Thị trưởng Eric Adams cho biết trong cuộc họp báo hàng tuần vào thứ Ba. “Tôi thực sự vui mừng về điều này, khả năng chúng tôi có thể xác định được ai đó mang súng trước khi họ vào hệ thống.”

Nhưng người dân thành phố nói rằng họ vẫn không cảm thấy an toàn.

Theo mô tả của báo cáo NBC , các máy quét cao khoảng 6 feet, có logo của sở cảnh sát thành phố và màn hình hiển thị ánh sáng nhiều màu. Khi phát hiện thấy vũ khí, cảnh báo sẽ được gửi đến một máy tính bảng do hai sĩ quan NYPD giám sát. Hệ thống này không có nhiệm vụ cảnh báo các vật dụng hàng ngày, chẳng hạn như điện thoại và máy tính xách tay - mặc dù hộp đựng iPad của một phóng viên đã tắt chức năng này hôm thứ Sáu.

Những người ủng hộ quyền tự do dân sự cũng phản đối máy quét. Liên minh Tự do Dân sự New York và Hiệp hội Trợ giúp Pháp lý cho biết họ sẽ kiện thành phố nếu công nghệ này được triển khai trên quy mô rộng.

NYCLU tin rằng công nghệ này sẽ khiến những người đi tàu điện ngầm phải chịu sự khám xét vi hiến của cảnh sát.

Cho đến nay hệ thống này mới chỉ được lắp đặt ở một số địa điểm.

Nhưng với 472 ga tàu điện ngầm trên khắp Thành phố New York, số lượng lớn nhất so với bất kỳ hệ thống nào trên thế giới, việc thiếu thiết bị phát hiện Evolv AI ở mọi ga có nghĩa là các tàu điện ngầm không thực sự được giữ an toàn.

Mặc dù đã có những vụ việc nổi tiếng, chẳng hạn như vụ xả súng năm 2022 trên chuyến tàu ở Brooklyn khiến 10 người bị thương, tội phạm trong hệ thống tàu điện ngầm của Thành phố New York đã giảm trong những năm gần đây .

Điều này có nghĩa là nhìn chung, tội phạm bạo lực trong hệ thống là rất hiếm, với hệ thống tàu điện ngầm của New York nhìn chung an toàn như bất kỳ nơi công cộng nào khác.

Theo dữ liệu của cảnh sát, tính đến ngày 21 tháng 7, tội phạm tàu điện ngầm đã giảm 8% so với cùng kỳ năm 2023. Theo cảnh sát, năm ngoái có 5 vụ giết người trong tàu điện ngầm, giảm so với 10 vụ vào năm 2022.

Máy dò vũ khí AI rất hữu ích vì chúng có thể xác định các mối đe dọa tiềm ẩn nhanh hơn và chính xác hơn con người. Không giống như những người bảo vệ con người, hệ thống AI không bị mệt mỏi, mất tập trung hoặc thiên vị, đảm bảo hiệu suất và tính cảnh giác nhất quán.

Mặt khác, các máy dò tương tự có thể xác định nhầm các vật thể vô hại là vũ khí (dương tính giả) hoặc không phát hiện được các mối đe dọa thực sự (âm tính giả), có khả năng gây ra sai sót an ninh hoặc hoảng loạn không cần thiết.

Các nhà phê bình cho rằng Evolv có vấn đề từ quan điểm pháp lý.

Evolv cũng có thể có những thiếu sót khác, chẳng hạn như dễ bị hack và các cuộc tấn công mạng khác, có thể ảnh hưởng đến hiệu quả của hệ thống.

Ngoài ra, việc thiết lập và triển khai ban đầu các máy dò có thể sẽ tốn kém, đòi hỏi đầu tư đáng kể vào công nghệ và cơ sở hạ tầng - tất cả đều xuất phát từ ngân sách thành phố do người nộp thuế chi trả dù họ có muốn hay không.

Như NYCLU lưu ý, việc sử dụng AI trong cài đặt bảo mật đặt ra các câu hỏi về đạo đức và pháp lý về trách nhiệm giải trình, đặc biệt trong trường hợp hệ thống mắc lỗi hoặc liên quan đến các sự cố dẫn đến tổn hại.

Rõ ràng là sự chấp nhận của công chúng đối với máy dò vũ khí AI sẽ bị xáo trộn, với một số cá nhân cảm thấy không thoải mái khi dựa vào máy móc để đưa ra các quyết định về an toàn và an ninh.

Hy vọng rằng tỷ lệ tội phạm vẫn ở mức thấp và mức độ an ninh vẫn ở mức cao – dù có hoặc không có Evolv.