Норман: первый в мире искусственный интеллект-психопат

Норман: первый в мире искусственный интеллект-психопат

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Норман начал свою деятельность как любая другая нейросеть — по мере поступления данных он искал в них повторяющиеся паттерны. Такие нейросети могут осуществлять поиск по фотографиям или создавать убедительный синтез речи, но у Нормана была другая задача. Он был рожден стать психопатом.

Команда ученых ограничила информационный поток Нормана мрачными данными с подразделов Reddit, где собираются те, кто обменивается фотографиями, касающимися смерти и разрушения. Из-за проблем этического характера нейросети не показывали снимки реальных умирающих людей. Норман получал только подписи под картинками, а сами изображения представляли скорее размытые кляксы, и именно это сформировало основу крайне мрачной индивидуальности нового ИИ.

После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.


Олег Писарев, Supreme2.Ru


!

Если для Вас конкретно эта новость оказалась важной или интересной - пожалуйста, поделитесь ею в своей любимой социальной сети с помощью кнопок, расположенных под этим текстом. Это поможет нам в будущем делать более качественную подборку материалов, исходя из Ваших потребностей\интересов.




Коды для вставки в блог\форум

blog comments powered by Disqus


Вспомним другие новости из этого раздела?


Наука и техника

←+Ctrl+→

Интересные новости
Птерозавры могли быть способны летать почти сразу после рожденияПтерозавры могли быть способны летать почти сразу после рождения
Ученые предложили новые варианты таблицы Менделеева — они странныеУченые предложили новые варианты таблицы Менделеева — они странные
В Харьковской области прошли испытания новой военной "глушилки"В Харьковской области прошли испытания новой военной "глушилки"
Германия и Франция помогут Японии в создании ровера для исследования марсианских лунГермания и Франция помогут Японии в создании ровера для исследования марсианских лун
Ученые расплавили спутник в потоке плазмы: зрелищный опытУченые расплавили спутник в потоке плазмы: зрелищный опыт
Блок рекламы


Похожие новости

Искусственный кратер на астероиде Рюгу заснят крупным планомИскусственный кратер на астероиде Рюгу заснят крупным планом
В США одобрили самое дорогое лекарство в миреВ США одобрили самое дорогое лекарство в мире
Создан первый полностью искусственный живой организмСоздан первый полностью искусственный живой организм
«Хаябуса-2» показала искусственный кратер на Рюгу«Хаябуса-2» показала искусственный кратер на Рюгу
В Арабских Эмиратах используют искусственный интеллект для персонализации процесса обучения школьниковВ Арабских Эмиратах используют искусственный интеллект для персонализации процесса обучения школьников
SpaceX успешно провела первый коммерческий запуск Falcon Heavy. И посадила все три ступени
Подтверждён первый кандидат в экзопланеты, найденный с помощью телескопа KeplerПодтверждён первый кандидат в экзопланеты, найденный с помощью телескопа Kepler
Израильский лунный аппарат прислал первый снимокИзраильский лунный аппарат прислал первый снимок
В Украине планируют создать первый плавучий космодромВ Украине планируют создать первый плавучий космодром
CES 2019: IBM показала первый коммерческий квантовый компьютерCES 2019: IBM показала первый коммерческий квантовый компьютер
Последние новости

Подгружаем последние новости