Технология на основе ИИ для борьбы с преступностью посадила человека в тюрьму на год без доказательств

Полицейские управления в США все больше полагаются на системы, которые используют датчики и искусственный интеллект для отслеживания выстрелов в определенных районах. Но, как показывает новый отчет, это приводит к ужасающим последствиям.

Scott Olson (Getty Images)

Полиция в США начинает постепенно использовать системы на основе ИИ для поимки преступников. Однако такие системы далеко не всегда работают хорошо

Согласно Associated Press, в августе прошлого года полиция ложно обвинила 65-летнего Майкла Уильямса и отравила в тюрьму, где он провел целый год. Все из-за сомнительных данных системы ShotSpotter.

Компания ShotSpotter предоставляет автоматизированную систему, которая использует акустические датчики и алгоритмы ИИ, чтобы помочь полиции обнаруживать стрельбу в определенных географических районах. Фирма, основанная около 25 лет назад, описывает себя как «лидер в области высокоточных технологических решений, которые позволяют правоохранительным органам более эффективно реагировать, расследовать и сдерживать преступления».

Насколько эта система хорошо работает? Из-за ее неисправности Майкл Уильямс провел год в тюрьме. При этом все доказательства были скудными, а последующее судебное разбирательство выявило, что оператор ShotSpotter «подкорректировал» некоторые данные.

ShotSpotter иногда пропускает выстрелы из огнестрельного оружия прямо рядом с датчиками и в то же время часто ошибочно классифицирует фейерверки или громкий выхлоп автомобиля как стрельбу. Хуже того, сотрудники ShotSpotter иногда изменяют место, откуда исходят звуки выстрелов, постфактум. Датчики также часто непропорционально установлены в общинах чернокожих и латиноамериканцев.

ShotSpotter активно пытается замаскировать то, как функционирует лежащая в его основе технология, и не позволяет следователям и юристам узнать о внутренней работе системы. При этом она используется в более чем 120 городах США, а «доказательства» полученные от ShotSpotter уже применялись почти в 200 судебных делах.