ИИ-алгоритм Facebook перепутал темнокожих мужчин с приматами

Один из роликов в профиле издания The Daily Mail в социальной сети Facebook, в котором присутствовали темнокожие мужчины, был автоматически отмечен как видео с приматами. Пользователи обратили внимание, что соцсеть предлагает «продолжить смотреть видео о приматах», что побудило компанию провести расследование и остановить работу соответствующего алгоритма. Facebook уже принесла извинения, назвав случившееся «недопустимой ошибкой».

ИИ-алгоритм Facebook перепутал темнокожих мужчин с приматами

Изображение: Jim Wilson / The New York Times

Речь идёт о видео, которое появилось в профиле The Daily Mail 27 июня. В нём демонстрируются стычки темнокожих мужчин с белыми гражданскими лицами и полицейскими. Ролик не имеет никакого отношения к приматам. Представители компании провели расследование, по результатам которого функционирование дающего рекомендации ИИ-алгоритма было приостановлено.

«Как мы уже говорили, несмотря на то, что мы работаем над улучшением искусственного интеллекта, мы знаем, что он несовершенен и нам ещё предстоит много работы. Мы приносим свои извинения всем, кто мог увидеть эти оскорбительные рекомендации», — прокомментировала данный вопрос пресс-секретарь Facebook Дэни Левер (Dani Lever).

ИИ-алгоритм Facebook перепутал темнокожих мужчин с приматами

Изображение: The New York Times

Отметим, что Google, Amazon и другие технологические гиганты уже много лет находятся под пристальным вниманием из-за предвзятости создаваемых ими алгоритмов, особенно в расовых вопросах. Исследования показали, что технология распознавания лиц предвзято относится к темнокожим людям и с трудом идентифицирует их, из-за чего произошло несколько инцидентов, когда темнокожие подвергались дискриминации или беспричинным арестам.

Случаи, подобные нынешнему, случались и ранее. Например, в 2015 году сервис Google Фото пометил несколько снимков с темнокожими людьми как изображения «гориллы», за что Google пришлось приносить извинения. Тогда же было объявлено, что компания будет работать над немедленным устранением проблемы. Более чем через два года было установлено, что Google решила вопрос путём цензурирования слова «горилла» в поисковых запросах, а также частичной блокировкой слов «шимпанзе» и «обезьяна».


Влад Кулиев, Supreme2.Ru

Коды для вставки в блог\форум




Интересные новости
Twitter будет продвигать собственный аналог Clubhouse, финансово поддерживая создателей контентаTwitter будет продвигать собственный аналог Clubhouse, финансово поддерживая создателей контента
Американский судья признал Cloudflare невиновной в нарушении авторских прав клиентамиАмериканский судья признал Cloudflare невиновной в нарушении авторских прав клиентами
Американские штаты состязаются в привлечении майнеров биткоинаАмериканские штаты состязаются в привлечении майнеров биткоина
Украинец создал "армию ботов", которая распространяла вирусы и осуществляла DDoS-атакиУкраинец создал "армию ботов", которая распространяла вирусы и осуществляла DDoS-атаки
Facebook меняет подход к подсчёту пользователей в рекламных целяхFacebook меняет подход к подсчёту пользователей в рекламных целях
Блок рекламы


Похожие новости

Facebook меняет подход к подсчёту пользователей в рекламных целяхFacebook меняет подход к подсчёту пользователей в рекламных целях
Facebook основала фонд на $10 миллионов для поощрения создателей VR-контентаFacebook основала фонд на $10 миллионов для поощрения создателей VR-контента
РоSSия хочет оштрафовать Facebook из-за задержки с удалением контентаРоSSия хочет оштрафовать Facebook из-за задержки с удалением контента
Бывшая сотрудница обвинила Facebook в сознательном нежелании бороться против дезинформацииБывшая сотрудница обвинила Facebook в сознательном нежелании бороться против дезинформации
В Facebook назвали причину многочасового сбояВ Facebook назвали причину многочасового сбоя
В даркнете продают базу с личной информацией 1,5 млрд пользователей Facebook
Facebook, Instagram и другие соцсети "лежат": названа вероятная причина глобального сбояFacebook, Instagram и другие соцсети "лежат": названа вероятная причина глобального сбоя
Facebook упал и потянул за собой основателя: Цукерберг летит из списка ForbesFacebook упал и потянул за собой основателя: Цукерберг летит из списка Forbes
Facebook выделила $50 млн, чтобы сделать свою «метавселенную» доброжелательной и безопасной для пользователейFacebook выделила $50 млн, чтобы сделать свою «метавселенную» доброжелательной и безопасной для пользователей
Акции Facebook упали до самого низкого уровня с июля. Причина — негативные прогнозы по доходамАкции Facebook упали до самого низкого уровня с июля. Причина — негативные прогнозы по доходам
Последние новости

Подгружаем последние новости