Система распознавания лиц перепутала политиков с преступниками

Система распознавания лиц перепутала политиков с преступниками

Американский союз гражданских свобод — это некоммерческая правозащитная организация, и на этой неделе она, потратив всего 12 долларов и 33 цента, проверила систему, от которой вполне может зависеть жизнь и свобода многих людей.

Используя настройки Rekognition, выставленные по умолчанию, то есть порог уверенности в 80% (это значит, что система на 80% уверена в том, что права, когда дает сигнал о совпадении), Союз просканировал 25000 фотографий преступников, лежащих в открытом доступе, и сравнила их с фотографиями всех членов Конгресса. В результате система идентифицировала 28 конгрессменов как преступников.

Стоит заметить, что это может показаться лишь забавным фактом, но Amazon активно рекламирует свою систему для полицейских и охранных организаций и некоторые уже ей пользуются, так что цена такой ошибки может оказаться довольно дорогой для того, кого опознали неверно.

Представитель Amazon заявил сайту The Verge, что в столь удручающих результатах скорее всего виновата недостаточная калибровка «Восьмидесятипроцентная уверенность приемлема, когда дело касается фотографий хот-догов, стульев, животных или в социальных сетях, но она совершенно не подходит для идентификации людей». Также он заявил, что для любой идентификации, способной повлечь за собой серьезные последствия, нужна уверенность минимум в 95%.

Amazon не отказывается от идеи продавать систему правоохранительным органам, несмотря на петиции со стороны собственных акционеров и работников.


Олег Писарев, Supreme2.Ru

Коды для вставки в блог\форум



Вспомним другие новости из этого раздела?


Internet и сети

←+Ctrl+→

Интересные новости
Пользователям Viber стали доступны сессии с компаниями и профили брендовПользователям Viber стали доступны сессии с компаниями и профили брендов
Google уличили в сборе данных о здоровье «миллионов американцев»Google уличили в сборе данных о здоровье «миллионов американцев»
Законопроект о криптовалютных активах вводит определение базовых понятий, связанных с криптосферой, - ЖмеренецкийЗаконопроект о криптовалютных активах вводит определение базовых понятий, связанных с криптосферой, - Жмеренецкий
Google: мы не используем поведенческие метрики в ранжированииGoogle: мы не используем поведенческие метрики в ранжировании
Зарубежные вебмастера заметили признаки обновления алгоритма GoogleЗарубежные вебмастера заметили признаки обновления алгоритма Google
Блок рекламы


Похожие новости

Facebook запускает программу для защиты страниц политиковFacebook запускает программу для защиты страниц политиков
Только 50% потребителей доверяют информации о компаниях в поисковых системахТолько 50% потребителей доверяют информации о компаниях в поисковых системах
Функция распознавания лиц в Facebook будет отключена по умолчаниюФункция распознавания лиц в Facebook будет отключена по умолчанию
Facebook отказалася удалять видеофейки политиков и знаменитостей. И получил фейк с Цукербергом
Винницкий стартап создал систему распознавания номеров авто и лиц. Ее уже используют в городеВинницкий стартап создал систему распознавания номеров авто и лиц. Ее уже используют в городе
В Украине заработала система обмена данными между госреестрами «Трембита». Ее готовили с 2017-го
Система надзора за рабочими на складах Amazon может автоматически увольнять людейСистема надзора за рабочими на складах Amazon может автоматически увольнять людей
В Киеве тестируют программу распознавания лиц с помощью камер видеонаблюденияВ Киеве тестируют программу распознавания лиц с помощью камер видеонаблюдения
Хакеры опубликовали личные данные сотен немецких политиковХакеры опубликовали личные данные сотен немецких политиков
РоSSийские хакеры "готовят поле боя" в энергетических системах США, - министр внутренней безопасностиРоSSийские хакеры "готовят поле боя" в энергетических системах США, - министр внутренней безопасности
Последние новости

Подгружаем последние новости