d-Matrix представляет 3DIMC: революционная замена HBM для ускорения ИИ

Стартап d-Matrix разработал революционную замену для современных стеков памяти HBM, востребованных производителями ускорителей высокопроизводительных вычислений для задач обучения и логического вывода ИИ.

Прорывная технология под названием Pavehawk 3D Digital In-Memory Compute (3DIMC) объединяет микросхемы LPDDR5 с выделенным чиплетом DIMC через интерпозер и сквозные кремниевые каналы. Компонент оптимизирован для матрично-векторных операций, фундаментальных для архитектуры Transformer в нейросетях.

Инновация обеспечивает 10-кратный прирост производительности при логическом выводе ИИ по сравнению с HBM-решениями, одновременно сокращая энергопотребление на 90%. Поскольку инференс занимает около половины всех ИИ-задач, внедрение 3DIMC позволит ускорить вычисления с экстремальным снижением энергозатрат.