Институт «Будущее жизни» наградил разработчиков ИИ

В Бостоне прошла церемония награждения победителей конкурса работ в области искусственного интеллекта. Тридцать семь проектов были отобраны более чем из трёхсот представленных на суд жюри. Их авторы получат гранты из фонда Open Philanthropy Project и средств некоммерческой организации The Future of Life Institute.

«Эти 37 проектов – лишь верхушка айсберга, – пояснил представитель института Джесси Галеф. – Мы надеемся, что наша программа вдохновит других заняться этой сложной и новой областью исследований ИИ».

Джесси Галеф (фото: Heather Leah Kennedy).
Джесси Галеф (фото: Heather Leah Kennedy).

Одна из работ носила говорящее название: «Автономное вооружение летального действия, ИИ и надлежащий контроль со стороны человека». Это не сценарий к очередному фантастическому боевику, а выполнение обсуждаемой резолюции ООН. Совет по безопасности ещё не пришёл к единому мнению о том, что именно следует считать «надлежащим контролем». Сейчас мы используем «слабые» системы ИИ в тактическом управлении. «Сильный ИИ» создаётся для помощи в решении стратегических задач. Его будет гораздо сложнее предсказать и контролировать.

Институт «Будущее жизни» (FLI) был основан группой исследователей из разных областей, разделяющих взгляды о стремлении человечества к технологической сингулярности. Они ставят своей целью разработать долговременные стратегии безопасного развития технологий прорыва, и в первую очередь – «сильного» искусственного интеллекта.

Среди сооснователей FLI есть физики Макс Тегмарк и Энтони Агирр, соавтор Skype Яан Таллинн, эксперт по методам машинного обучения Виктория Краковна и специалист по биологическим механизмам познания Мея Чита-Тегмарк.

Структура FLI (изображение: futureoflife.org).
Структура FLI (изображение: futureoflife.org).

Список официальных советников и меценатов института выглядит ещё более впечатляюще. Возглавляют его нобелевские лауреаты по физике Стивен Хокинг и Сол Перлмуттер, нейробиолог Кристоф Кох, а также сооснователь SpaceX и Tesla Motors Илон Маск.

На развитие исследований в области искусственного интеллекта Маск пожертвовал $10 млн., поскольку сильно обеспокоен вектором развития связанных с ИИ технологий и меняющейся ролью людей в ближайшем будущем. Конечно, он не говорит всерьёз о повторении в реальности сюжета «Терминатора» или «Матрицы». Это лишь образные сравнения. Однако человек сможет контролировать машины только до тех пор, пока остаётся хоть немного умнее них и в состоянии обходиться своими силами.

Проблема в том, что не желая принимать ответственность, мы постепенно наделяем компьютеры и другие устройства властью. «Я не могу вам это продать, товара в базе нету», – говорят мне на кассе. «Я не могу изменить расписание, его программа так составила», – сообщают в университете. «Мне смартфон написал, что у тебя сегодня день рождения!» – настаивает коллега. «Здесь не может быть ошибки, мы на компьютере считали», – оправдываются студенты. Таких примеров каждый день набирается масса. Они веселят, пока не собираются в общую картину: мы не столько разгружаем себя автоматизацией работы, сколько создаём новую.

Робот AILA терпит присутствие любопытных белковых существ (фото: REUTERS/Fabrizio Bensch).
Робот AILA терпит присутствие любопытных белковых существ (фото: REUTERS/Fabrizio Bensch).

Избалованное технологиями большинство уже не хочет жить иначе и формирует одностороннюю зависимость. Уже давно во многих отраслях люди только мешают автоматике и оставлены на своих местах лишь для самоуспокоения. Яркий пример – вектор развития программы ВВС США. За последние пять лет число строевых лётчиков резко сократилось. Их место сейчас занимают операторы дронов, а завтра они сами освободят кресло, поскольку не будут успевать командовать поумневшей автоматикой.

В современном автомобиле водитель напрасно чувствует себя хозяином положения. Он едет по маршруту GPS-навигатора, а органы управления уже не связаны механически с исполнительными. Они передают команды бортовому компьютеру, который и управляет машиной. Даже автоматическая парковка и полный автопилот – уже вполне готовые технологии. Их массовое внедрение сдерживает лишь психологический барьер. Когда он окажется в прошлом, все места в салоне можно будет сделать пассажирскими.

В машине с автопилотом руль останется как элемент стиля (изображение: thedetroitbureau.com).
В машине с автопилотом руль останется как элемент стиля (изображение: thedetroitbureau.com).

Начало процессу отстранения людей от управления было положено ещё в прошлом веке. Вот что говорил в конце восьмидесятых Ричард Фейнман о своей работе в комиссии по расследованию причин катастрофы шаттла «Челленджер»: «… все операции контролируются компьютерами. Шаттл автоматически попадает на орбиту — астронавты просто сидят на своих местах. <…> Наиболее эффектная вещь — это посадка. В течение этого времени астронавты ничего не видят, и все изменяется настолько быстро, что снижение должно проводиться автоматически. Однако на высоте в четыре тысячи футов происходит нечто, что выполняет не компьютер: пилот нажимает на кнопку, чтобы опустить шасси. Я нашел это очень странным – глупость, которая, очевидно, связана с психологией пилотов: они герои в глазах публики; все считают, что именно они управляют шаттлом. Для них просто невыносима мысль, что, на самом деле, им делать нечего».

В этом примере речь идёт о «слабом» ИИ – группе из пяти компьютеров, выполняющих единую программу полёта с довольно жёстко детерминированными критериями. Ни на что другое они не способны, но со своей задачей справляются лучше любой группы астронавтов. Современные реализации на базе нейросетей разных типов уверенно развиваются в сторону «сильного» ИИ, умеющего воспринимать естественный язык, учиться и творить.

К примеру, IBM Watson без разницы, что именно анализировать на входе и формулировать на выходе. Он с одинаковым успехом предложить новый рецепт блюда, выигрышную стратегию игры или рассчитает вещество с заданным биологическим эффектом. В работе с ним даже прослеживаются элементы самосознания или его успешная имитация. Во всяком случае, всё выглядит так, будто он отделяет сведения о себе от данных об окружающем мире и умеет наряду с изложением фактов формулировать частное мнение.

– Может ли робот написать симфонию, или создать шедевр живописи? – А вы можете? (фрагмент из фильма "Я, робот").
– Может ли робот написать симфонию, или создать шедевр живописи?
– А вы можете?
(фрагмент из фильма «Я, робот»).

Илон Маск уверен, что неспециалистам сегодня трудно осознать масштабы возникающей проблемы. Люди лишь шутят по этому поводу, удивляясь подсказкам Siri, Cortana или Google Now. «Прогресс в области искусственного интеллекта невероятно быстрый. Без доступа к разработкам Deepmind и других компаний трудно осознать, насколько стремительным темпами развивается индустрия. Рост в ней близок к экспоненциальному. Существует риск, что нечто действительно опасное случится в ближайшие пять, максимум – десять лет. Это не та ситуация, когда поднимают ложную тревогу без малейшего понимания научного подхода».

Главная миссия FLI – смягчение рисков, которые грозят человечеству в будущем от необдуманного использования новых технологий. Это коллектив опытных исследователей, а не очередные неолуддиты, призывающие разбить машины и уйти жить в леса. Многие из собравшихся в институте развивали ключевые направления технологий и активно пользуются ими сами.

«Я не одинок в своих мыслях о том, что пора обеспокоиться. Ведущие компании в сфере ИИ уже предприняли значительные меры для обеспечения безопасности. Впрочем, распознавать опасность – это одно, а научиться контролировать цифровой суперинтеллект – совсем другое», – говорит Илон Маск.

Большинство победителей конкурса приступят к реализации своих проектов уже в сентябре. Общая сумма грантов составит $7 млн.



Андрей Васильков, Компьютерра





Интересные новости
Вплине на вимірювання часу: танення льодовиків сповільнило обертання ЗемліВплине на вимірювання часу: танення льодовиків сповільнило обертання Землі
Вчені розповіли, чому «зірки-невдахи» часто самотніВчені розповіли, чому «зірки-невдахи» часто самотні
Блок рекламы


Похожие новости

«Кирпичики жизни» впервые нашли на астероиде в космосе«Кирпичики жизни» впервые нашли на астероиде в космосе
Ученые из Массачусетского технологического института (MIT) создали акустическую систему, равную по толщине листу бумагиУченые из Массачусетского технологического института (MIT) создали акустическую систему, равную по толщине листу бумаги
Немецкий Институт биогеохимии имени Макса Планка заморозил финансирование россиян на научной станции в СибириНемецкий Институт биогеохимии имени Макса Планка заморозил финансирование россиян на научной станции в Сибири
В Индии скончался один из разработчиков вакцины CoviShield Суреш Джадхав
В КНУ имени Шевченко пяти институтам предоставили статус учебно-научного
Глава разработчиков лунного модуля Blue Origin ушёл от Безоса к главному конкуренту — Илону Маску в SpaceX
Пентагон наградил SpaceX первым в 2021 году контрактом на запуск спутников
Секретная команда разработчиков Apple создаёт спутниковые технологии
Европейское физическое общество наградило украинскую ученую за работу в области элементарных частиц
Раскопки на Почтовой площади отдадут Институту археологии НАН Украины
Последние новости

Подгружаем последние новости