Норман: первый в мире искусственный интеллект-психопат

Норман: первый в мире искусственный интеллект-психопат

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Норман начал свою деятельность как любая другая нейросеть — по мере поступления данных он искал в них повторяющиеся паттерны. Такие нейросети могут осуществлять поиск по фотографиям или создавать убедительный синтез речи, но у Нормана была другая задача. Он был рожден стать психопатом.

Команда ученых ограничила информационный поток Нормана мрачными данными с подразделов Reddit, где собираются те, кто обменивается фотографиями, касающимися смерти и разрушения. Из-за проблем этического характера нейросети не показывали снимки реальных умирающих людей. Норман получал только подписи под картинками, а сами изображения представляли скорее размытые кляксы, и именно это сформировало основу крайне мрачной индивидуальности нового ИИ.

После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.


Олег Писарев, Supreme2.Ru


!

Если для Вас конкретно эта новость оказалась важной или интересной - пожалуйста, поделитесь ею в своей любимой социальной сети с помощью кнопок, расположенных под этим текстом. Это поможет нам в будущем делать более качественную подборку материалов, исходя из Ваших потребностей\интересов.




Коды для вставки в блог\форум

blog comments powered by Disqus


Вспомним другие новости из этого раздела?


Наука и техника

←+Ctrl+→

Интересные новости
Генетики раскрыли причины зарождения многих видов ракаГенетики раскрыли причины зарождения многих видов рака
В Китае найдена вторая терракотовая армияВ Китае найдена вторая терракотовая армия
Ученые сделали из гриба генератор электроэнергииУченые сделали из гриба генератор электроэнергии
Microsoft стала лидером по выращиванию огурцовMicrosoft стала лидером по выращиванию огурцов
Samsung примкнула к «Партнёрству по искусственному интеллекту»Samsung примкнула к «Партнёрству по искусственному интеллекту»
Блок рекламы


Похожие новости

В Таджикистане запустили ГЭС, дамба которой станет самой высокой в миреВ Таджикистане запустили ГЭС, дамба которой станет самой высокой в мире
В Амстердаме построили первый в мире пешеходный мост с помощью 3D-принтераВ Амстердаме построили первый в мире пешеходный мост с помощью 3D-принтера
Первый в мире магнит, состоящий из одной молекулыПервый в мире магнит, состоящий из одной молекулы
Выявлен первый случай заболевания человека крысиным гепатитомВыявлен первый случай заболевания человека крысиным гепатитом
Зонд Parker Solar Probe прислал первый снимокЗонд Parker Solar Probe прислал первый снимок
Телескоп TESS прислал первый научный снимокТелескоп TESS прислал первый научный снимок
Искусственный интеллект может привести к массовой безработице, - британский экономистИскусственный интеллект может привести к массовой безработице, - британский экономист
Первая в мире вращающаяся водная горкаПервая в мире вращающаяся водная горка
Искусственный материал поможет бороться с глобальным потеплениемИскусственный материал поможет бороться с глобальным потеплением
Искусственный интеллект помог улучшить лечение ракаИскусственный интеллект помог улучшить лечение рака
Последние новости

Подгружаем последние новости