Память для ИИ d-Matrix 3D DRAM (3DIMC)

Стартап d-Matrix объявил о работе над новым видом памяти, который будет использоваться для задач ИИ.

Особенности технологии 3D-цифровых вычислений

Технология 3D-цифровых вычислений в новой памяти 3DIMC ориентирована на значительное ускорение вывода данных системами ИИ. На данном этапе для всех задач, связанных с ИИ, используется HBM.

HBM функционирует путем размещения модулей памяти один над другим, таким образом достигается достаточно высокий уровень производительности и эффективное соединение кристаллов памяти. Такой вид памяти выполняет свои задачи, но это не лучший вариант для вычислений.

В d-Matrix сейчас проводят испытания кремниевого чипа Pavehawk 3DIMC. На данный момент, аппаратное обеспечение для вычислений в оперативной памяти состоит из кристаллов памяти LPDDR5 и поверх установленных чиплетов DIMC, которые подключены через интерпозер.

Благодаря такой конфигурации становится возможным вычисление непосредственно в памяти. Модели ИИ быстро развиваются, и традиционные системы памяти ограничивают пропускную способность и становятся все дороже и дороже. Таким образом, новый подход, при котором память имеет лучшую интеграцию с вычислительными системами, влияет на увеличение пропускной способности и повышение эффективности в целом.

Над Pavehawk 3DIMC работают в лабораторных условиях, а также ожидается выход нового поколения памяти Raptor, которое также будет базироваться на модели чиплета. Ожидается, что Raptor сможет ускорить вывод данных ИИ почти в 10 раз по сравнению с традиционными системами памяти.