IBM поставила LLNL нейропроцессоры TrueNorth за $1 млн

Ливерморская национальная лаборатория получила от компании IBM нейроморфные чипы TrueNorth. Сумма контракта на поставку шестнадцати нейропроцессоров второго поколения составила $1 млн. Каждый из нейрочипов имитирует работу свыше одного миллиона нейронов и легко масштабируется на оригинальной платформе IBM.

Чипы TrueNorth разрабатывались IBM по заказу DARPA c 2008 года в рамках проекта SyNAPSE (Systems of Neuromorphic Adaptive Plastic Scalable Electronics, системы нейроморфной адаптивной пластичной масштабируемой электроники). Официально долгосрочной целью проекта было воссоздание в кремнии принципов работы коры головного мозга (если не человека, то хотя бы крыс и других млекопитающих), а весь проект проходил как чисто исследовательский.

Однако примерно в то же время Министерство обороны США озадачилось созданием адаптивных управляющих боевых систем для беспилотников и различных видов «умного» оружия. Предполагается, что избавленные от жёстких ограничений стандартных алгоритмов, они смогут самообучаться в боях и обмениваться накопленным опытом друг с другом.

Платформа IBM с 16 нейроморфными чипами TrueNorth (фото: IBM).

Нейросети подходят для этого идеально, вот только на традиционных микропроцессорах общего назначения они выполняются слишком уж неэффективно. C 2012 года Ливерморская лаборатория потратила сотни мегаватт-часов, моделируя работу будущего нейрочипа на супреркомпьютере IBM Sequoia.

В отличие от традиционных вычислительных архитектур, IBM TrueNorth изначально проектировался для обработки нейропрограмм. Он поддерживает все виды нейросетей, созданных в популярном пакете Compass. В TrueNorth используется 5,4 млрд транзисторов, организованных в 4096 вычислительных ядер, каждое из которых эмулирует работу 256 нейронов. Таким образом, один чип алгоритмически воссоздаёт массив из 2²⁰ нейронов.

У TrueNorth при масштабировании нет потерь на синхронизацию, поэтому кластер из 16 нейроморфных процессоров эмулирует в кремнии ≅ 16,7 млн. нейронов и более 4 млрд синапсов. «Мы начали создавать нейросинаптические суперкомпьютеры», – сказали разработчики IBM, когда впервые объединили несколько процессоров TrueNorth в единую вычислительную систему.

Сами чипы TrueNorth также построены по кластерной асинхронной архитектуре, разработанной в Корнельском Университете. Она принципиально отличается от фон Неймановской и Гарвардской, поэтому сравнивать производительность нейроморфного процессора с каким-нибудь Intel Xeon было бы некорректно.

«Технология (IBM TrueNorth) представляет фундаментальное отклонение от компьютерной архитектуры, использовавшейся последние 70 лет. С её помощью возможно создание суперкомпьютеров следующего поколения. Они будут на порядки быстрее сегодняшних петафлопсных машин. Подобно человеческому мозгу, нейросинаптические системы потребуют значительно меньше электроэнергии и объема», – сказал директор программы математического моделирования систем вооружения Майкл МакКой.

Каждое ядро TrueNorth содержит планировщик заданий, собственную память типа SRAM (в ней хранятся информация о других ядрах, состояния нейронов и синапсов) и маршрутизатор для связи с другими ядрами. Любое ядро может взаимодействовать с любым другим, но всегда стремится выбрать кратчайший путь обмена данными.

Чип TrueNorth работает на частоте около одного килогерца и выполняет 46 млрд операций с синапсами в секунду, потребляя в среднем 70 милливатт. Даже при моделировании сложных периодических нейронных сетей TrueNorth требуется менее 100 мВт. Весь кластер из 16 чипов потребляет (с учётом всех потерь мощности) менее 2,5 ватт. Такая же обрабока нейросетей на суперкомпьютере потребовала бы в 176 тыс. раз большей мощности (440 КВт).

“С этой усовершенствованной вычислительной платформой мы входим в следующую эру когнитивных вычислений”, – сказал Дармендра Модха руководитель подразделения Brain-inspired Computing IBM Research.

Архитектура IBM TrueNorth (изображение: IBM).

В данный момент руководство Ливерморской национальной лаборатории планирует опробовать полученную 16-чиповую платформу IBM в разных практических задачах и выяснить, где она окажется наиболее эффективной. Заплатив миллион долларов, лаборатория получит помимо нейроморфной платформы и полную техническую поддержку. Она включает в себя все средства разработки для реализации нейронных сетей на кластере TrueNorth: библиотеки алгоритмов, наборы приложений, встроенное микропрограммное обеспечение, а также инструменты для создания и глубокого обучения нейронных сетей.

Как минимум, TrueNorth позволит сэкономить на счетах за электроэнергию, которые в LLNL сегодня измеряются астрономическими суммами из-за использования нейросетей на традиционных суперкомпьютерах. Петафлопсную же «Секвойю» можно будет переориентировать на выполнение более подходящих для её архитектуры задач. Вполне возможно, что в на базе TrueNorth в дальнейшем будут созданы принципиально другие суперкомпьютеры.

Платформа TrueNorth будет применяться для оценки эффективности алгоритмов глубокого машинного обучения, проведения общих вычислений и технико-экономических обоснований самой лаборатории и различных ведомств. Дополнительно её планируется применять в программах Национальной ядерной безопасности (NNSA) США и для усиления подразделений радиотехнической и электронной разведки Министерства обороны США.

«Потенциальные возможности нейроморфных вычислений приближают к созданию сильного искусственного интеллекта, который изменит принципы развития науки», – сказал заместитель директора LLNL по науке Джим Брейс.