У систем распознавания лиц обнаружены предрассудки

В ходе недавнего исследования, проведенного правительством США, было обнаружено, что, системы распознавания лиц имеют предубеждения против людей разных рас и пола. Ошибки идентификации людей со смуглым цветом кожи и неевропейской внешностью происходят гораздо чаще. Всего Национальным институтом стандартов и технологий США были изучены 200 систем от 99 разработчиков.

«При сопоставлении результатов наблюдалось больше ложных срабатываний во время идентификации лиц азиатского и афроамериканского типа. Это наблюдалось в 10—100 раз чаще, чем в случае с белыми людьми, в зависимости от индивидуального алгоритма программ», — говорится в исследовании.

Например, исследование показало, что технология распознавания лиц Microsoft сбоит почти в 10 раз чаще в случае идентификации цветных женщин, чем цветных мужчин. К слову, по результатам проверки именно система Microsoft продемонстрировала худшие результаты. В Microsoft заявили, что изучают отчет правительства, и намерены исправить все обнаруженные ошибки.

Это уже не первый случай, когда технология распознавания лиц обвиняется в предвзятости. Например, не так давно было обнаружено, что система Apple, помогающая определять размер кредитного лимита, предлагала мужчинам больше денег, чем женщинам.