Дойти до точки. Наступит ли предел производительности для суперсистем?

По приглашению Научно-исследовательского вычислительного центра МГУ им. М.В.Ломоносова в конце октября Россию посетил известный специалист в области суперкомпьютерных (СК) технологий, профессор Центра вычислений и технологий Университета штата Луизиана (США) Томас Стерлинг (Thomas Sterling). Он выступил в МГУ, СПбГУ ИТМО и ННГУ им. Н.И.Лобачевского с докладом на тему “Challenge and Opportunities towards Exascale Computing”. Корреспонденту “Поиска” удалось задать ученому несколько вопросов.
— Как сегодня следует вести подготовку профессионалов в области высокопроизводительных вычислений? Надо ли уделять особое внимание СК-образованию, или стоит оставить его частью общей подготовки ИТ-специалистов, с надеждой на то, что студент потом сам определится в своих интересах и “доберет” необходимое?
— Понятие общего ИТ-образования, конечно, включает в себя более узкопрофессиональный концепт образования суперкомпьютерного, но все же последнее должно рассматриваться как отдельная дисциплина. По характеру предъявляемых к ним требований цели и условия использования СК-технологий значительно отличаются от тех, что возникают при использовании ИТ в коммерции. Каждая часть СК-системы вносит отдельный вклад в результаты вычислений, поэтому, знания о том, как эти части сочетаются друг с другом, умение грамотно организовать их совмещение — важнейший вопрос, решение которого позволит достичь оптимального результата при расчетах на высокопроизводительных машинах. Для осуществления корректной работы с СК-системой требуются как базовые знания в области компьютерных наук, так и наличие уникальных навыков работы с высокопроизводительными вычислительными комплексами. СК-образование должно готовить экспертов, разбирающихся и в СК-концептах будущего, и в развитии СК-систем (как в сфере ПО, так и в сфере “железа”), и в вопросах технического обслуживания уже существующих систем.
— Каковы мировые тенденции в области подготовки СК-профессионалов? Какой должна быть степень участия в этом процессе государства и бизнеса?
— Обучение СК-професси-оналов сегодня во всем мире протекает довольно “камерно”. Да, некоторые крупные международные организации уже установили ряд образовательных стандартов в этой области. Однако в основном преподавание подобных курсов до сих пор ведется разрозненно и осуществляется собственными силами вузов, без помощи политиков или бизнесменов. На мой взгляд, единого учебника, который охватывал бы все важные аспекты вводного курса по СК-технологиям, не существует. Изучение этого многогранного предмета требует наличия определенного багажа знаний в областях параллельных алгоритмов, программных моделей и методов, программного обеспечения и аппаратных средств… Кроме того, остро стоит проблема нехватки компетентных преподавателей, которые могли бы считаться экспертами по такому широкому кругу вопросов. Поэтому требуется скоординировать международные усилия, чтобы создать, например, единый семестровый курс видеолекций по этому предмету. Такой курс должен быть доступен для распространения по Сети, чтобы студенты во всем мире, заинтересованные подобными вопросами, имели прямой доступ к этим знаниям, поданным на высоком уровне. Это позволит ускорить процесс создания общемировых стандартов СК-образования.
— Какова сегодня на международном рынке труда пропорция спроса и предложения на СК-специалистов? Какие страны наиболее преуспели в подготовке таких профессионалов?
— С одной стороны, пока довольно мало экспертов, свободно ориентирующихся в СК-науках. С другой — число достойных вакансий в этой области сегодня все еще весьма ограничено. Субсидии от правительства могли бы изменить эту ситуацию в лучшую сторону, но сферы деятельности, связанные с исследованиями и разработками, традиционно требуют огромных вложений, потому их невозможно все время поддерживать искусственно. США, Европа и Япония поддерживают развитие СК-технологий в основном силами академического сообщества. Активные работы в данном направлении ведет сегодня Китай — возможно, именно это государство будет доминировать в области высокопроизводительных вычислений в ближайшие 10 лет. Россия в последние годы также продемонстрировала как устойчивый рост в данной области, так и яркие возможности своих молодых талантливых специалистов. Если эти успехи будут должным образом организованы и простимулированы, то и Россия сможет добиться значительных высот в сфере высокопроизводительных вычислений. До сих пор ведущую роль на мировой суперкомпьютерной арене играли США, след в след за ними шли Европа и Япония. Вообще, в истории пока не было такого случая, чтобы на этом поле долго доминировала какая-то одна страна.
— Вы преподаете СК-технологии. Много ли сегодня желающих у вас учиться? На что вы делаете основной упор в процессе обучения: на программные модели, системные архитектуры, параллельные алгоритмы? Насколько задействованы в процессе обучения дистанционные технологии?
— Количество студентов пока не столь велико, хотя в последнее время наблюдается устойчивый интерес к данной области знаний, приток молодых специалистов, как выпускников, так и студентов, растет. Например, в Университете штата Луизиана каждый год более 20 новых студентов поступают на вводный курс по высокопроизводительным вычислениям (CSC-7600). Они приезжают не только из других городов США, но и из Европы, Азии (многие — из Индии). Это позволяет констатировать факт, что СК-технологии сегодня — объект международного внимания. Наш курс примечателен своим сбалансированным сочетанием всех основных элементов, которые вы перечислили. Упор делается на параллелизм, подчеркивается важность каждого уровня работы СК-системы для ее общей производительности. Мы также демонстрируем, какие программные модели (MPI, OpenMP, Condor) и системные средства наиболее эффективны для работы с теми или иными приложениями. Пока что в режиме реального времени по Сети с нашим курсом можно ознакомиться только в Аргентине и Чехии. Но мы надеемся расширить международную аудиторию и будем рады наладить новые связи с зарубежными образовательными сообществами.
— В ходе визита вы имели возможность познакомиться с высокопроизводительными системами МГУ (“Ломоносов” и “Чебышев”). Каково ваше впечатление?
— Я уже отмечал, что Россия в последнее время демонстрирует последовательное повышение уровня СК-оборудования и программ для работы с ним. Возможности МГУ в данной области растут быстрее, чем у многих университетов в мире. Тот вклад, который вносит в развитие высокопроизводительных систем администрация МГУ и спонсоры университета, помогает вузу создавать сильные СК-комплексы. Модель столь плодотворного взаимодействия — хороший пример для подражания. Профессионализм и эмоциональная вовлеченность студентов и преподавателей МГУ в развитие высокопроизводительных вычислений смогут помочь России занять одно из ведущих мест в данной области.
— Это ваш первый визит в Россию. Каковы впечатления от поездки? Достигли ли вы своих целей?
— Я благодарен российским коллегам из НИВЦ МГУ за приглашение и возможность представить мои идеи и результаты исследований новым поколениям СК-специалистов в МГУ, ИТМО и ННГУ. Эта поездка преследовала сразу несколько целей. Во-первых, желание узнать подробности о российских инициативах, исследованиях и возможностях в сфере высокопроизводительных вычислений. Во-вторых, хотелось мотивировать молодых ученых и студентов пристальнее присмотреться к СК-технологиям, рассказать им о широких возможностях высокопроизводительных вычислительных систем, а также проинформировать российское научное сообщество о тех изменениях, которые сегодня происходят в данной области, о том, как они могут повлиять на дальнейшее развитие СК-технологий и, главное, в каких из этих изменений ваши ученые смогут сыграть ведущую роль. Иными словами, я собирался посеять первые семена новых ростков международной кооперации в области СК-технологий, поскольку надеюсь, что это поможет построению новых СК-систем и достижению вычислительных мощностей экзафлопсного уровня уже к концу нынешнего десятилетия.
— Сегодня много говорят о грядущей экзаэре. Появились национальные и международные проекты: IESP, EESI, UHPC, призванные приблизить ее наступление. Каковы перспективы таких СК-инициатив?
— Очень важно, что международное научное сообщество, объединенное интересом к СК-технологиям, начало эти работы. Ни один регион мира не способен достичь такого высокого вычислительного уровня в одиночку. И если сегодня не сконцентрировать общие усилия по развитию новых СК-парадигм, нового “железа”, новых видов суперкомпьютерного ПО и свежих методов СК-программирования, то в скором времени высокопроизводительные вычисления превратятся лишь в еще одно узкое направление науки, как многие другие технологии, которые, достигнув некоего критического уровня, прекратили свое развитие.
— В ваших выступлениях часто упоминается так называемая точка Стерлинга — барьер производительности, который не смогут пересечь суперкомпьютеры. Каков он и что мешает его преодолеть?
— Примерно каждые 11 лет производительность суперкомпьютеров увеличивалась на три порядка, что подтверждалось различными тестами, в том числе Linpack. Можно предположить, как дальше будет идти рост вычислительных мощностей: где-то к концу нынешнего десятилетия мы, вполне вероятно, достигнем устойчивого экзафлопсного уровня, к 2030 году, видимо, следует ожидать зетафлопсного. Однако, на мой взгляд, существует предел производительности — та самая “точка Стерлинга”, — который системы общего назначения, построенные в рамках существующих традиционных технологий создания компьютеров, превзойти не смогут. Предвижу, что развитие СК-систем остановится на отметке в 64 экзафлопса (хотя еще предстоит вычислить этот промежуток от 32 до 128 экза­флопс точнее). С другой стороны, конечно, существуют иные парадигмы вычислений, в рамках которых этот барьер вполне может быть преодолен.
— Приведите, пожалуйста, пример задач, для решения которых могут понадобиться машины экзафлопсного уровня.
— Многие уверены, что в появлении экзамашин надобности нет, указывая на низкую степень использования пета­флопсных машин и на то, что большинство приложений, которые сегодня существуют, задействуют лишь малую часть вычислительных возможностей этих монстров. Так нужны ли нам такие мощности сейчас? Считаю, мы уже опоздали с их появлением. Существуют как минимум четыре области, требующие немедленного ввода в использование машин экзафлопсного уровня и выше, среди них: моделирование климатических изменений, разработка реакций управляемого термоядерного синтеза, сфера биотехнологий — создание эффективных лекарств, безопасных методов генной инженерии и, наконец, науки о новых материалах.
— Почему вы назвали свою знаменитую кластерную систему “Беовульф”? Вам была в то время знакома история этого имени?
— Можно, конечно, продолжать настаивать на том, что я и мой коллега Дональд Бекер при выборе названия исходили из желания подчеркнуть небывалую производительную мощь нашей системы в то время. Но на самом деле, имя для проекта было выбрано совершенно случайно. В конце 1930-х годов моя мать преподавала английский язык в Университете Бостона. От нее мне и досталось довоенное издание этой древнеанглийской поэмы, которое лежало у меня на рабочем столе. Когда менеджеры программы НАСА в очередной раз стали давить на меня, требуя без всяких отсрочек дать нашей работе хоть какое-то конкретное название, взгляд упал на эту книгу. “О, Боже! — воскликнул я. — Ну, давайте назовем ее “Беовульф”, все равно никто никогда не услышит об этой программе”. Теперь я вижу, как ошибался.

Наша справка:
Признание пришло к Стерлингу после того, как в 1993 году в рамках работ в научно-космическом центре НАСА он с коллегами попытался доказать, что глобальные научные задачи можно решать с помощью кластерных систем, составленных из компонентов потребительского рынка. Так начался знаменитый проект “Беовульф”, в рамках которого была создана система для выполнения параллельных вычислений, объединившая дешевые комплектующие, сеть Ethernet и операционную систему Linux.
 Сегодня Томас Стерлинг — лауреат премии Gordon Bell Prize, занимает позицию ведущего исследователя в ряде ключевых проектов НАСА и Калифорнийского технологического института, работает над созданием новых моделей, методов и технологий построения высокопроизводительных компьютеров, создает программное обеспечение для суперкомпьютеров со сверхвысоким уровнем производительности.
Визит Т.Стерлинга организован в рамках выполнения проекта Минобрнауки РФ “Суперкомпьютерное образование”.

Анна ШАТАЛОВА
Фото Петра Брызгалова

Нет комментариев