Arm бросает вызов AMD: почти вдвое выше производительность ИИ на серверную стойку

От компании Arm поступило интересное сообщение, касающееся сектора центров обработки данных. Недавно представленный процессор AGI может обеспечить почти вдвое большую производительность на одну серверную стойку по сравнению с процессором AMD EPYC 9755, как показывают тесты, проведенные компанией Arm и независимо проанализированные Signal65.

Тесты проводились на семи рабочих нагрузках, актуальных для ИИ-агентов, включая транзакции баз данных, веб-серверы, разработку программного обеспечения и обслуживание ИИ-моделей. Это актуально для сценария, в котором ИИ-агенты используют инструменты, ищут информацию и выполняют задачи с минимальным участием человека.

Процессоры Arm победили в пяти из семи отдельных тестов чипов. Они показали особенно хорошие результаты в тесте fastText, где AGI превзошел AMD на 97 %. Однако AMD сохранила лидерство по пропускной способности в тестах MySQL и Milvus.

Более значительная разница проявилась на уровне серверной стойки. Моделированные результаты Arm показали среднее преимущество в производительности в 1,99 раза по всем семи рабочим нагрузкам.

Почему плотность установки в стойке меняет условия конкуренции

Потребление энергии может служить возможным объяснением этого результата. По оценкам Arm, в стойке мощностью 24 кВт может разместиться до 23 серверов AGI на базе Arm, что в три раза превышает количество серверов AMD (13). Таким образом, операторы центров обработки данных смогут выполнять больше задач искусственного интеллекта без увеличения размеров своих физических объектов.

Независимая проверка, проведенная Signal65, показала погрешность не более 0,5 % по сравнению с результатами, представленными компанией Arm. Тем не менее, проверка была проведена исключительно на основе тестов, выполненных компанией Arm.

Наше мнение

Мы считаем, что выводы компании Arm могут свидетельствовать о значительных изменениях в подходе корпораций к оценке серверных процессоров. Тактовая частота чипа важна, но показатели «производительность на ватт» и «производительность на стойку» могут быть не менее значимыми. Это может позволить центрам обработки данных контролировать свои затраты на электроэнергию и запускать больше агентов искусственного интеллекта, не занимая при этом дополнительного места.

Однако только фактическое внедрение этих систем покажет, станут ли эти улучшения устойчивыми.

Понравилась эта статья? Поделитесь ею с коллегами и подпишитесь на наши социальные сети, чтобы получать больше информации о технологиях. Ознакомьтесь с другими нашими статьями, чтобы узнать, как ИИ меняет аппаратное обеспечение цифровых сервисов будущего.