Китай нашёл более умный способ ускорить ИИ без более мощных чипов

Гонка за созданием всё более мощных систем искусственного интеллекта довела аппаратное обеспечение до пределов возможностей. На протяжении многих лет компании сосредоточивались на увеличении вычислительной мощности, уделяя при этом меньше внимания тому, как данные перемещаются между процессорами. Теперь китайские исследователи показали, что другой подход может дать поразительные результаты.

Команда из Пекинского университета создала экспериментальную платформу искусственного интеллекта, которая соединяет несколько стандартных процессоров с помощью кремниевых фотонных передатчиков и оптического коммутатора. Вместо того чтобы полагаться на один мощный графический процессор (GPU), они обеспечили совместную работу нескольких чипов в непрерывном потоке обработки.

Результаты удивили даже опытных инженеров. Система выполнила задачу по удалению шума с изображения почти в 149 раз быстрее, чем обычный графический процессор. Ещё более впечатляющим является то, что она достигла этого, используя лишь около 11,6 процента от теоретической вычислительной мощности графического процессора.

Секрет скорости

Исследователи разместили по одному слою пятислойной сверточной нейронной сети на каждом FPGA. По мере выполнения каждой задачи процессор немедленно отправлял данные на следующий чип через высокоскоростные оптические соединения.

Такая конструкция устранила одно из самых серьезных «узких мест» в работе ИИ. Традиционные графические процессоры (GPU) неоднократно сохраняют промежуточные результаты в памяти, прежде чем загружать их снова для следующего этапа. Такое постоянное перемещение данных замедляет обработку. Новая архитектура обеспечивала непрерывный поток данных без лишних перерывов.

В ходе тестирования платформа обработала 1 000 изображений с разрешением 32 на 32 пикселя всего за чуть более 105 микросекунд. Для выполнения той же рабочей нагрузки сравниваемому графическому процессору потребовалось более 15 миллисекунд. Коэффициент загрузки ресурсов ПЛИС также достиг впечатляющего уровня — почти 95 процентов.

Почему более продуманная архитектура может определить следующую эру ИИ

В эксперименте использовалась относительно небольшая нейронная сеть и набор данных Fashion MNIST. Пока не стоит ожидать такого же прироста производительности для современных крупных языковых моделей. Тем не менее, исследование доказывает, что более продуманный дизайн системы может обеспечить огромный прирост эффективности без использования более мощных чипов.

На наш взгляд, это исследование важно, поскольку оно обозначает ключевую тенденцию для всей отрасли ИИ. Возможно, в будущем инновации будут обусловлены не столько увеличением вычислительной мощности, сколько усовершенствованием архитектуры. Это приведет к появлению более энергоэффективных технологий, сокращению расходов на инфраструктуру и доступности передовых решений в области ИИ для организаций и частных лиц по всему миру.

Если вам понравилась эта статья, поделитесь ею с коллегами, ознакомьтесь с другими нашими публикациями по ИИ и подпишитесь на нас в социальных сетях, чтобы быть в курсе будущих технологий.