Как будут развиваться суперкомпьютеры, по мнению Джека Донгарры

Высокопроизводительные суперкомпьютеры, ранее бывшие исключительной прерогативой научных исследований, теперь стали стратегическим ресурсом для обучения всё более сложных моделей искусственного интеллекта. Эта конвергенция ИИ и высокопроизводительных вычислений меняет не только сами эти технологии, но и способы получения знаний, занимая стратегически важное место в глобальной перспективе.

Чтобы обсудить развитие высокопроизводительных вычислений (HPC), в июле журнал WIRED встретился с Джеком Донгаррой, американским учёным-компьютерщиком, который внёс ключевой вклад в разработку программного обеспечения для HPC за последние четыре десятилетия — настолько, что в 2021 году был удостоен престижной премии Тьюринга. Встреча состоялась на 74-й встрече лауреатов Нобелевской премии в Линдау (Германия) , собравшей десятки нобелевских лауреатов и более 600 молодых учёных со всего мира.

Это интервью было отредактировано для большей краткости и ясности.

WIRED: Какую роль искусственный интеллект и квантовые вычисления будут играть в научно-технологическом развитии в ближайшие годы?

Джек Донгарра: Я бы сказал, что ИИ уже играет важную роль в научных исследованиях: мы используем ИИ во многих сферах, чтобы способствовать научным открытиям. Он используется в вычислительной технике и помогает нам приблизительно оценивать поведение вещей. Поэтому я рассматриваю ИИ как способ получить приближение, а затем, возможно, уточнить его с помощью традиционных методов.

Сегодня у нас есть традиционные методы моделирования и симуляции, которые выполняются на компьютерах. Если у вас есть очень сложная задача, вы обратитесь к суперкомпьютеру, чтобы понять, как вычислить её решение. ИИ сделает это быстрее, лучше и эффективнее.

Искусственный интеллект (ИИ) окажет влияние не только на науку — он станет важнее, чем интернет в момент своего появления. Он проникнет во все сферы нашей деятельности. Он будет использоваться в самых разных областях, о которых мы пока даже не подозревали. Он будет служить гораздо более важной цели, чем интернет за последние 15–20 лет.

Квантовые вычисления интересны. Это действительно замечательная область для исследований, но, как мне кажется, нам предстоит долгий путь. Сегодня у нас есть примеры квантовых компьютеров — аппаратное обеспечение всегда появляется раньше программного обеспечения, — но эти примеры очень примитивны. В случае с цифровым компьютером мы думаем о выполнении вычисления и получении ответа. Квантовый компьютер вместо этого выдаёт нам распределение вероятностей, где находится ответ, и вы делаете несколько (назовём это запусками) на квантовом компьютере, и он выдаёт вам несколько потенциальных решений задачи, но не даёт ответа. Так что всё будет иначе.

Не попали ли мы в момент ажиотажа относительно квантовых вычислений?

К сожалению, я думаю, что квантовые технологии переоценены — вокруг них слишком много шумихи. Обычно это приводит к тому, что люди сначала слишком воодушевляются, а потом они не оправдывают ни одного из данных обещаний, и весь ажиотаж спадает.

Мы уже видели это раньше: ИИ прошёл этот цикл и восстановился. И сегодня ИИ — реальность. Люди его используют, он продуктивен, и он послужит всем нам весьма существенным образом. Я думаю, квантовая технология должна пережить эту зиму, когда люди будут разочарованы ею, будут игнорировать её, а затем найдутся умные люди, которые поймут, как её использовать и как сделать так, чтобы она была более конкурентоспособной по сравнению с традиционными технологиями.

Есть много проблем, которые необходимо решить. Квантовые компьютеры очень легко вывести из строя. У них будет много «неисправностей» — они будут выходить из строя из-за хрупкости вычислений. Пока мы не сделаем компьютеры более устойчивыми к этим сбоям, они не смогут выполнять те функции, на которые мы надеемся. Не думаю, что у нас когда-нибудь появится ноутбук, который будет квантовым. Возможно, я ошибаюсь, но точно не думаю, что это произойдёт при моей жизни.

Квантовым компьютерам также необходимы квантовые алгоритмы, а сегодня у нас очень мало алгоритмов, которые можно эффективно запустить на квантовом компьютере. Таким образом, квантовые вычисления находятся в зачаточном состоянии, как и инфраструктура, которая будет использовать квантовый компьютер. Квантовые алгоритмы, квантовое программное обеспечение и имеющиеся у нас технологии — всё это очень примитивно.

Когда можно ожидать перехода от традиционных к квантовым системам (если это вообще возможно)?

Итак, сегодня по всему миру существует множество суперкомпьютерных центров с очень мощными компьютерами. Это цифровые компьютеры. Иногда к цифровому компьютеру добавляют что-то для повышения производительности — ускорители. Сегодня такими ускорителями являются графические процессоры (GPU). GPU делает что-то очень хорошо, и он просто хорошо справляется с этой задачей, он был разработан для этого. Раньше это было важно для графики; сегодня мы модернизируем это, чтобы использовать GPU для удовлетворения некоторых наших вычислительных потребностей.

В будущем, я думаю, мы дополним центральный и графический процессоры другими устройствами. Возможно, квантовые вычисления станут ещё одним устройством, которое мы добавим к ним. Возможно, это будут нейроморфные вычисления, которые имитируют работу нашего мозга. А затем у нас появятся оптические компьютеры. Представьте себе яркий свет и интерференцию, которая, по сути, и есть то самое вычисление, которое вы хотите выполнить. Представьте себе оптический компьютер, который берёт два луча света, в которых закодированы числа. При взаимодействии этих лучей в этом вычислительном устройстве выдаётся результат — умножение этих чисел. И это происходит со скоростью света. Это невероятно быстро. Так что это устройство, которое, возможно, могло бы вписаться в это центральный процессор, графический процессор, квантовый нейроморфный компьютер. Всё это, возможно, можно объединить.

Как текущая геополитическая конкуренция — между Китаем, США и другими странами — влияет на развитие и обмен технологиями?

США накладывают определённые ограничения на поставки вычислительной техники в Китай. Например, продажа некоторых компонентов Nvidia там больше не допускается. Но они продаются в другие регионы Китая, и когда я навещаю китайских коллег и смотрю, что у них в компьютерах, я вижу, что у них много оборудования Nvidia. Так что существует неофициальный путь.

В то же время Китай переключился с покупки западных технологий на инвестиции в собственные, увеличивая финансирование исследований, необходимых для их развития. Возможно, это ограничение дало обратный эффект, вынудив Китай ускорить разработку компонентов, которые он может контролировать гораздо сильнее, чем мог бы в ином случае.

Китайцы также решили, что информация об их суперкомпьютерах не должна публиковаться. Мы знаем о них — как они выглядят, каков их потенциал и что они сделали, — но нет метрики, которая позволила бы нам проводить строгий контроль и сравнивать эти компьютеры с нашими машинами. У них очень мощные машины, вероятно, сопоставимые по мощности с самыми мощными машинами в США.

Они построены на технологии, изобретенной или разработанной в Китае. Они разработали собственные чипы. Они конкурируют с чипами, которые используются в компьютерах на Западе. И люди задаются вопросом: где были произведены эти чипы? Большинство чипов, используемых на Западе, производятся компанией Taiwan Semiconductor Manufacturing Company. У Китая есть технологии, которые отстают на поколение-два от технологий TSMC, но они собираются догнать их.

Полагаю, что часть китайских чипов также производится на Тайване. Когда я спрашиваю своих китайских друзей: «Где были произведены ваши чипы?», они отвечают: «В Китае». А если я надавлю на них и скажу: «А они были произведены на Тайване?», в итоге они ответят: «Тайвань — часть Китая».

Как изменится роль программистов и разработчиков по мере развития ИИ? Сможем ли мы писать программы, используя только естественный язык?

Я считаю, что ИИ играет очень важную роль, помогая сократить некоторые трудоёмкие этапы разработки программ. Он получает всю доступную информацию о программах других разработчиков, синтезирует её и может продвигать дальше. Я был очень впечатлён, когда просил некоторые из этих систем написать программу для выполнения определённой задачи; ИИ справляется с ней довольно хорошо. Затем я могу уточнить это, попросив: «Оптимизируйте это для такого-то компьютера», и он с этим тоже неплохо справляется. Думаю, в будущем мы всё чаще будем использовать язык, чтобы описывать ИИ историю, а затем заставлять его писать программу для выполнения этой функции.

Конечно, есть пределы, и нам нужно быть осторожными с галлюцинациями или чем-то ещё, что может привести к неверным результатам. Но, возможно, мы сможем встроить какие-то проверки для проверки решений, выдаваемых ИИ, и использовать это для оценки потенциальной точности этих решений. Мы должны осознавать потенциальные проблемы, но, думаю, нам нужно двигаться вперёд в этом направлении.

Эта история первоначально появилась на сайте WIRED Italia и была переведена с итальянского.