Норман: первый в мире искусственный интеллект-психопат

Норман: первый в мире искусственный интеллект-психопат

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Норман начал свою деятельность как любая другая нейросеть — по мере поступления данных он искал в них повторяющиеся паттерны. Такие нейросети могут осуществлять поиск по фотографиям или создавать убедительный синтез речи, но у Нормана была другая задача. Он был рожден стать психопатом.

Команда ученых ограничила информационный поток Нормана мрачными данными с подразделов Reddit, где собираются те, кто обменивается фотографиями, касающимися смерти и разрушения. Из-за проблем этического характера нейросети не показывали снимки реальных умирающих людей. Норман получал только подписи под картинками, а сами изображения представляли скорее размытые кляксы, и именно это сформировало основу крайне мрачной индивидуальности нового ИИ.

После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.


Олег Писарев, Supreme2.Ru

Коды для вставки в блог\форум



Вспомним другие новости из этого раздела?


Наука и техника

←+Ctrl+→

Интересные новости
20 украинских вузов вошли в рейтинг лучших университетов Восточной Европы20 украинских вузов вошли в рейтинг лучших университетов Восточной Европы
NASA устроило показ лунных модNASA устроило показ лунных мод
Беспроводной пылесос Xiaomi Mi Handheld Vacuum Cleaner 1C — доступная альтернатива моделям DysonБеспроводной пылесос Xiaomi Mi Handheld Vacuum Cleaner 1C — доступная альтернатива моделям Dyson
NASA показало новые скафандры для полетов на Луну и МарсNASA показало новые скафандры для полетов на Луну и Марс
Робота Digit научили переносить коробкиРобота Digit научили переносить коробки
Блок рекламы


Похожие новости

В Северном море будет построена крупнейшая в мире ветроэлектростанцияВ Северном море будет построена крупнейшая в мире ветроэлектростанция
Найдены угри с самым мощным электрическим ударом в миреНайдены угри с самым мощным электрическим ударом в мире
США рассекретили первый отчет своей разведки о катастрофе на ЧАЭССША рассекретили первый отчет своей разведки о катастрофе на ЧАЭС
Создано первое стабильное кольцо атомов углерода в миреСоздано первое стабильное кольцо атомов углерода в мире
Искусственный интеллект собрал кубик Рубика за 1 секундуИскусственный интеллект собрал кубик Рубика за 1 секунду
Искусственный интеллект поможет Китаю повторить миссию “Аполлона”Искусственный интеллект поможет Китаю повторить миссию “Аполлона”
Ученые создали искусственный эмбрион человека из стволовых клетокУченые создали искусственный эмбрион человека из стволовых клеток
Китай отправит искусственный интеллект в космосКитай отправит искусственный интеллект в космос
Искусственный кратер на астероиде Рюгу заснят крупным планомИскусственный кратер на астероиде Рюгу заснят крупным планом
В США одобрили самое дорогое лекарство в миреВ США одобрили самое дорогое лекарство в мире
Последние новости

Подгружаем последние новости