Познавая разум. Нейросети строят по образу и подобию человеческого мозга.

— Нейрокогнитивные исследования, разработки в области создания искусственного интеллекта и робототехники — действительно яркие примеры конвергенции наук и технологий, как, собственно, и задумывалось изначально Михаилом Валентиновичем Ковальчуком при создании Курчатовского НБИКС-центра. Но спектр решаемых сегодня в НБИКС-комплексе задач этими направлениями не исчерпывается, он намного шире. У нас проводятся работы по биомедицине, включающие создание искусственных органов и тканей, изучение механизмов иммунитета, разработку лекарств от онкологических, нейродегенеративных, вирусных, бактериальных болезней, исследование способов адресной доставки этих препаратов. 

Еще один крупный блок — биоэнергетика. И это не только разработка технологий производства биотоплива, но также изучение принципов генерации энергии живыми системами и природоподобного энергопотребления, которое выливается, например, в создание имплантатов, способных при помещении в организм вырабатывать энергию, используя его ресурсы. 

Есть у нас отдел, занимающийся сверхпроводящими материалами и устройствами на их основе. 

Специалисты по социогуманитарным исследованиям работают в области палеогенетики, исторического материаловедения (исследование предметов искусства с помощью рентгеновского, синхротронного и нейтронного излучений, электронной микроскопии и других физических методов). 

И это далеко не полный перечень направлений, в рамках которых реализуется множество междисциплинарных тем. 

— Мы занимаемся созданием аппаратных средств искусственного интеллекта с нейросетевой архитектурой. Чтобы пояснить, что это значит, отмечу, что существует два пути решения задачи построения искусственного интеллекта. Первый — так называемые символьные вычисления, заключающиеся в моделировании на традиционных компьютерах интеллектуальных функций человека и других живых существ. Математики начали разрабатывать это направление с середины прошлого века и смогли выстроить системы логического вывода, которые не только используют заложенные в них связи между высказываниями (символами) и законы вывода утверждений, но и генерируют новые (правила вывода правил). Больших открытий в этой области не произошло, машины не стали мыслящими, но они успешно справляются с задачами, для которых пока нет других алгоритмов решения. Благодаря этому созданы экспертные системы, помогающие человеку в различных отраслях.

— Многие пользователи компьютеров прибегают к услугам автоматизированных помощников (экспертных программ), которые предлагают разные варианты решения технических проблем, в зависимости от сообщаемых людьми деталей. Еще одна иллюстрация — программно-аппаратные комплексы для диагностики двигателей автомобилей, где комбинаторным образом увязаны сотни параметров — показаний различных датчиков и возможных путей решения проблемы. 

— Да, частично такие исследования ведет одна из научных групп в нашем Отделе нейрокогнитивных исследований. Но значительно активнее у нас реализуется второе направление — попытки воспроизвести интеллект, скопировав с помощью программных и аппаратных средств структуру мозга. 

В отличие от движения сверху вниз, то есть воспроизведения мыслительных способностей человека на классическом компьютере, это путь снизу вверх — создание компьютера по образу и подобию живой сети нервных клеток. Именно этим направлением исследований занята Лаборатория нейроморфных систем.

— Сейчас в вычислительной технике используется так называемая классическая, или фон-неймановская, архитектура (по имени математика фон Неймана). Память и процессор физически разделены, они связываются друг с другом посредством шины, по которой постоянно идет обмен данными. Шина является “узким местом”, которое ограничивает производительность вычислений. Эту проблему отчасти снимают многоядерные процессоры, в которых информация делится между разными ядрами и обрабатывается в них одновременно. Процесс ускоряется, но все равно остается последовательным.

Человеческий мозг устроен иначе: его архитектура принципиально параллельна. И вычисление, и сохранение информации осуществляют одни и те же структуры — нервные клетки, нейроны. Мозг человека содержит порядка 100 миллиардов нейронов, которые имеют разветвленную структуру ввода и вывода информации (несколько тысяч связей на один нейрон). Соединение передающего отростка (аксона) одного нейрона и принимающего отростка (дендрита) другого нейрона называется синапсом. Синапсы обладают свойством пластичности, проще говоря, эффективность передачи сигнала зависит от частоты его прохождения. Чем чаще используется данная связь, тем более эффективной в смысле передачи сигнала она становится. Считается, что именно в уникальных наборах способных к обучению синапсов и формируются элементы памяти.

Еще раз подчеркну, что ученые работают над тем, чтобы создать искусственные нейронные сети с подобными свойствами. Есть два пути решения этой проблемы — компьютерное моделирование и аппаратное воспроизведение (создание нейрочипов). 

— Если говорить о моделировании нейронных сетей на компьютерах, то оно началось давно — почти одновременно с символьными вычислениями. Безусловно, скопировать все детали работы мозга невозможно. Одних типов нейромедиаторов (молекул-посредников в передаче электрохимического сигнала между нейронами) — около 4 тысяч. Да и архитектура живых нейросетей крайне сложна. Поэтому ученые выделяют основные принципы, которые важны с точки зрения проведения нейровычислений, формирования распределенной памяти, и пытаются их реализовывать.

По мере того как увеличивались мощности компьютеров и совершенствовались биотехнологии, позволяющие глубже проникнуть в структуру мозга, разобраться в функциональных особенностях его элементов, эта сфера развивалась все интенсивнее. Сегодня искусственные нейронные сети уже активно применяются в технике. 

— Да, наша глобальная цель — построить крупноблочную структуру, повторяющую работу основных подсистем мозга. В перспективе нейросетевая программа должна освоить такие функции, как распознавание образов, фокусировка внимания, образование ассоциаций (привязка к другим образам), оценка и принятие решений, выполнение команд, формирование или актуализация памяти. 

Для решения этой задачи мы, в первую очередь, занимаемся разработкой методов обучения разных типов нейронных сетей (оно состоит в подборе подходящей архитектуры и сил связей между искусственными нейронами). К каждой сети нужно найти свой подход: универсальных способов обучения пока не найдено, их появление будет революционным открытием. Процесс может быть управляемым (“с учителем”) и неуправляемым (“без учителя”). В первом случае оператор или программа “прогоняют” через сеть примеры с известными правильными ответами и разными методами корректируют параметры сети, чтобы минимизировать ошибки в ее ответах. Эффективность обучения тем выше, чем больше таких примеров использовано. Во втором случае сеть самостоятельно, посредством специального алгоритма, учится “понимать” структуру входных данных, кластеризуя близкие (согласно заданному формальному критерию) объекты в один класс (например, все ели, осины и березы — в класс “деревья”, а ромашки, лютики и тюльпаны — в класс “цветы” и т.п.). При этом данные изначально являются неразмеченными: нет примеров с правильными ответами. Такого рода алгоритмы обучения — наименее развитые, но наиболее ценные. Действительно, в этом случае необходимо лишь снабдить сеть датчиками для взаимодействия с внешним миром или определенным объемом неразмеченных данных и предоставить ей время на освоение поступающей информации.

Сегодня стал активно использоваться алгоритм третьего типа — обучение с подкреплением, когда сети не предоставляются правильные ответы, но лишь обозначается, стала ли она ближе к решению (вроде детской игры “холодно — горячо”).

Если нейронная сеть обучена хорошо, она приобретает способность моделировать функцию, оптимально связывающую значения входных и выходных переменных, то есть решать задачи с нечеткой логикой, где допустимых входных сигналов, а зачастую и “ответов” бесконечно много. Ну, например, существует много способов дотянуться до бутылки с водой. Взрослый человек выберет оптимальный, “не думая”. В подобных случаях мы пользуемся интуицией (которая, вероятнее всего, выражается в устоявшейся структуре сформированных связей между нейронами, возникшей в процессе приобретения опыта). 

А для искусственного мозга — это сложнейший процесс. Поэтому пока он может использоваться только для решения ограниченного набора технических задач. Наиболее распространенные из существующих приложений — предварительный анализ больших данных (например, крупных научных экспериментов, таких как столкновения частиц на Большом адронном коллайдере в ЦЕРН), быстрый трейдинг ценными бумагами на биржах, распознавание образов — зрительных, звуковых, тактильных. Стоит отметить, правда, что практически все современные программы искусственного интеллекта гибридны: нейросети выделяют основные признаки и осуществляют по ним привязку образа к определенному классу. А на стадии принятия решений подключаются уже обычные математические алгоритмы. Также предварительная компьютерная обработка часто требуется для подготовки информации, подаваемой на вход нейросети.

— Нейрочипы — это микросхемы, сконструированные и работающие на основе нейросетевых принципов. Внешне они выглядят как обычные чипы, но открывают новые широкие возможности. За счет специальной суперпараллельной архитектуры (огромного числа простых процессоров-”нейронов”, работающих каждый момент времени одновременно) нейровычислительная производительность и энергоэффективность нейроморфных устройств выше, чем классических компьютерных систем. Большой плюс — малые массогабаритные характеристики. Чтобы запустить нейросетевой алгоритм на обычном компьютере, требуются значительные вычислительные мощности, а нейрочип можно разместить в любом устройстве — от робота до смартфона. Кроме того, нейрочипы обеспечивают автономность от интернет-коммуникаций. Сейчас программы на основе искусственных нейросетей в большинстве случаев формируют запрос на удаленный сервер и, следовательно, без Интернета работать не могут. А с помощью чипа задачи могут решаться на входном устройстве.

Первые серьезные попытки создания нейрочипов были сделаны в 90-х годах прошлого века. Сейчас изготовлено уже немало видов нейрочипов для выполнения конкретных задач. Это относительно небольшие сети, содержащие ограниченное количество искусственных нейронов и имеющие довольно простую архитектуру. В большинстве случаев в них используются цифровые элементы, которые могут принимать лишь несколько дискретных значений, в то время как живые нейросети работают на основе аналоговых элементов, способных реализовывать непрерывный диапазон функциональных значений. Так что процесс еще в самом начале.

— Да, мы занимаемся созданием искусственных нейронов и синапсов, а также сетей на их основе. Синаптические функции может выполнять так называемый мемристор (memory resistor) — электрическое сопротивление с эффектом памяти, которое меняет свое значение под действием прошедшего через него электрического заряда и сохраняет его в отсутствие новых переключающих импульсов. Это свое­образный пропускной элемент для тока, как синапс для электрохимического сигнала. Мемристоры делают из органических, неорганических и гибридных материалов (например, наночастицы в полимере). 

Мемристоры необходимы не только для нейроморфных вычислителей, но и для новых запоминающих систем с большой плотностью размещения информации, быстродействием, высокими энергосберегающими характеристиками. Кроме того, их можно использовать при создании нейропротезов — искусственных микросхем, замещающих поврежденные участки нервной ткани. 

Мы концентрируемся на разработке вычислительных нейроморфных устройств. Ищем материалы, которые позволят создавать мемристоры с заданными свойствами — диапазоном сопротивлений, необходимой стабильностью к числу переключений. Использование нейрочипов с мемристивными связями между нейронами даст существенное увеличение функционала эмулируемых нейронных сетей за счет непрерывного диапазона реализуемых весов связей, большего быстродействия по сравнению с транзисторными элементами, уменьшенного энергопотребления, а также за счет повышенной плотности их размещения на чипе (один мемристор может занимать площадь на чипе не более 10×10 квадратных нанометров).

— Мы первые сформировали элементарный перцептрон (модельную однослойную сеть, распознающую образы) на органических мемристорах. Кроме того, мы продемонстрировали возможность создания двухслойного перцептрона. Для этого научились контролировать сопротивление каждого отдельного мемристора, сформировав специальную систему доступа. Этот результат пока не опубликован, статья недавно сдана в рецензируемый журнал. 

— В научно-исследовательской работе по созданию систем искусственного интеллекта мы не отстаем ни от лучших российских лабораторий (которых насчитывается около десятка), ни от зарубежных команд. 

Надо отдавать себе отчет, что рынки нейрочипов под формальные нейросети для конкретных целей, скорее всего, зай­мут промышленные гиганты. Крупные компании, занимающиеся разработкой программных средств под конкретные задачи и не ограниченные в ресурсах, конечно, более успешны в коммерциализации результатов. Развитие, вероятно, будет идти в направлении увеличения номенклатуры нейрочипов со специальной архитектурой под определенные виды решаемых задач. Но Курчатовский институт в целом и наша лаборатория в частности не будут участвовать в этой гонке.

— Мы пытаемся создать нейропроцессор на основе импульсных нейронных сетей с возможностью масштабирования (наращивания неограниченного числа нейронов и связей) и использования алгоритмов, пригодных для решения большого числа разнообразных задач. При этом значительная часть используемых алгоритмов должна быть основана на самоорганизации, обучении без учителя и с подкреплением, чтобы система смогла совершенствоваться на базе неразмеченных, плохо структурированных входных данных, как это делает человек. 

Это глобальная цель, над ней работают всего несколько лабораторий в мире. Мы не отстаем, а по некоторым направлениям даже лидируем. 

— В НБИКС-центре, благодаря усилиям Михаила Валентиновича Ковальчука, для этого есть все возможности. У нас работают сильные группы нейробиологов, специалисты высокого класса по моделированию импульсных нейронных сетей, на самом современном уровне осуществляется разработка материалов, создание компонентов и устройств. Наша экспериментальная и технологическая база — одна из передовых в мире. Конвергенция научных подходов из разных дисциплин осуществляется не на словах, а на деле. 

До создания крупномасштабной модели мозга, конечно, еще очень далеко. Так что разговоры о том, что “роботы захватят мир”, вести рано. Но совершенно ясно, что работы по созданию искусственного интеллекта будут менять мир, и очень быстро. Эта область уже открыла несколько инновационных технологических ниш, принесла множество новых продуктов, и ее роль в прогрессе общества будет экспоненциально расти.