Норман: первый в мире искусственный интеллект-психопат

Норман: первый в мире искусственный интеллект-психопат

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Норман начал свою деятельность как любая другая нейросеть — по мере поступления данных он искал в них повторяющиеся паттерны. Такие нейросети могут осуществлять поиск по фотографиям или создавать убедительный синтез речи, но у Нормана была другая задача. Он был рожден стать психопатом.

Команда ученых ограничила информационный поток Нормана мрачными данными с подразделов Reddit, где собираются те, кто обменивается фотографиями, касающимися смерти и разрушения. Из-за проблем этического характера нейросети не показывали снимки реальных умирающих людей. Норман получал только подписи под картинками, а сами изображения представляли скорее размытые кляксы, и именно это сформировало основу крайне мрачной индивидуальности нового ИИ.

После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.


Олег Писарев, Supreme2.Ru


!

Если для Вас конкретно эта новость оказалась важной или интересной - пожалуйста, поделитесь ею в своей любимой социальной сети с помощью кнопок, расположенных под этим текстом. Это поможет нам в будущем делать более качественную подборку материалов, исходя из Ваших потребностей\интересов.




Коды для вставки в блог\форум

blog comments powered by Disqus


Вспомним другие новости из этого раздела?


Наука и техника

←+Ctrl+→

Интересные новости
Зонд «Хаябуса-2» готов к посадке на астероид РюгуЗонд «Хаябуса-2» готов к посадке на астероид Рюгу
Как «Гюйгенс» на Титан садилсяКак «Гюйгенс» на Титан садился
В Канаде нашли уникальную мумию из ледникового периодаВ Канаде нашли уникальную мумию из ледникового периода
Топор улучшенной конструкции круто колет дроваТопор улучшенной конструкции круто колет дрова
Британская компания представила необычный боевой беспилотникБританская компания представила необычный боевой беспилотник
Блок рекламы


Похожие новости

Зонд Parker Solar Probe прислал первый снимокЗонд Parker Solar Probe прислал первый снимок
Телескоп TESS прислал первый научный снимокТелескоп TESS прислал первый научный снимок
Искусственный интеллект может привести к массовой безработице, - британский экономистИскусственный интеллект может привести к массовой безработице, - британский экономист
Первая в мире вращающаяся водная горкаПервая в мире вращающаяся водная горка
Искусственный материал поможет бороться с глобальным потеплениемИскусственный материал поможет бороться с глобальным потеплением
Искусственный интеллект помог улучшить лечение ракаИскусственный интеллект помог улучшить лечение рака
Создан первый в мире искусственный организм с одной хромосомойСоздан первый в мире искусственный организм с одной хромосомой
Первый эксперимент по пересадке искусственно выращенного легкого прошел успешноПервый эксперимент по пересадке искусственно выращенного легкого прошел успешно
DARPA примется совершенствовать искусственный интеллектDARPA примется совершенствовать искусственный интеллект
Создан первый в мире аэрозоль с наноботамиСоздан первый в мире аэрозоль с наноботами
Последние новости

Подгружаем последние новости