Норман: первый в мире искусственный интеллект-психопат

Норман: первый в мире искусственный интеллект-психопат

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Норман начал свою деятельность как любая другая нейросеть — по мере поступления данных он искал в них повторяющиеся паттерны. Такие нейросети могут осуществлять поиск по фотографиям или создавать убедительный синтез речи, но у Нормана была другая задача. Он был рожден стать психопатом.

Команда ученых ограничила информационный поток Нормана мрачными данными с подразделов Reddit, где собираются те, кто обменивается фотографиями, касающимися смерти и разрушения. Из-за проблем этического характера нейросети не показывали снимки реальных умирающих людей. Норман получал только подписи под картинками, а сами изображения представляли скорее размытые кляксы, и именно это сформировало основу крайне мрачной индивидуальности нового ИИ.

После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.


Олег Писарев, Supreme2.Ru


!

Если для Вас конкретно эта новость оказалась важной или интересной - пожалуйста, поделитесь ею в своей любимой социальной сети с помощью кнопок, расположенных под этим текстом. Это поможет нам в будущем делать более качественную подборку материалов, исходя из Ваших потребностей\интересов.




Коды для вставки в блог\форум

blog comments powered by Disqus


Вспомним другие новости из этого раздела?


Наука и техника

←+Ctrl+→

Интересные новости
Видео дня: новая круговая панорама Марса с борта CuriosityВидео дня: новая круговая панорама Марса с борта Curiosity
Маск назвал цену билета на МарсМаск назвал цену билета на Марс
Компания Mars One, занимавшаяся проектом колонизации Марса, обанкротиласьКомпания Mars One, занимавшаяся проектом колонизации Марса, обанкротилась
NASA объявило о завершении миссии марсохода OpportunityNASA объявило о завершении миссии марсохода Opportunity
Астрономы нашли недостающую треть ВселеннойАстрономы нашли недостающую треть Вселенной
Блок рекламы


Похожие новости

CES 2019: IBM показала первый коммерческий квантовый компьютерCES 2019: IBM показала первый коммерческий квантовый компьютер
Samsung запатентовал первый дрон-трансформерSamsung запатентовал первый дрон-трансформер
Наложен первый штраф за несогласованный с властями запуск спутниковНаложен первый штраф за несогласованный с властями запуск спутников
США поставили в Украину первый контейнер для ядерного хранилищаСША поставили в Украину первый контейнер для ядерного хранилища
Искусственный интеллект обошел врачей в чтении рентгеновских снимковИскусственный интеллект обошел врачей в чтении рентгеновских снимков
Невероятное обезболивающее из самого острого вещества в миреНевероятное обезболивающее из самого острого вещества в мире
В Таджикистане запустили ГЭС, дамба которой станет самой высокой в миреВ Таджикистане запустили ГЭС, дамба которой станет самой высокой в мире
В Амстердаме построили первый в мире пешеходный мост с помощью 3D-принтераВ Амстердаме построили первый в мире пешеходный мост с помощью 3D-принтера
Первый в мире магнит, состоящий из одной молекулыПервый в мире магнит, состоящий из одной молекулы
Выявлен первый случай заболевания человека крысиным гепатитомВыявлен первый случай заболевания человека крысиным гепатитом
Последние новости

Подгружаем последние новости