Google разбирает списанное железо ради ИИ-серверов

Глобальный дефицит оперативной памяти заставляет технологических гигантов проявлять изобретательность. По словам Нихила Чериана, старшего директора по инфраструктуре цепочки поставок в Google Cloud, компания начала извлекать модули DDR4 из выведенных из эксплуатации серверов, чтобы дать им вторую жизнь в современных системах искусственного интеллекта.

Новая стратегия в области аппаратного обеспечения на фоне хаоса на рынке

Для интеграции компонентов предыдущего поколения в новое оборудование Google создала специальные аппаратные адаптеры.

Движущей силой этой инициативы стали новые скачки цен на DRAM. По данным аналитиков TrendForce, цены на оперативную память для серверов подскочили на 13–18 %, а в сегменте ПК рост составил до 23 %. В августе цены на модули DDR4 и DDR5 объемом 8 ГБ достигли 142 и 133 доллара соответственно.

Рост цен и дефицит памяти вынуждают технологические компании искать способы извлечь больше из каждого гигабайта.

Кроме того, оптимизация

Помимо повторного использования устаревшего оборудования, Google решает эту проблему на программном уровне, оптимизируя библиотеки, архитектуру моделей и алгоритмы сжатия KV-кеша.

Таким образом, дефицит памяти вынудил одну из крупнейших технологических компаний не только оптимизировать новые ускорители и программное обеспечение, но и создать внутреннюю цепочку поставок для вторичной переработки компонентов старых серверов.