HBC: новый способ удешевить память для AI-ускорителей

Компании, работающие в сфере искусственного интеллекта, стремятся сократить расходы на высокопроизводительную память HBM, широко применяемую в ускорителях. JEDEC разрабатывает стандарты, превращающие HBM в более доступный формат через стандартную упаковку.

Qualcomm предлагает альтернативу — High Bandwidth Compute (HBC), который объединяет слои LPDDR в виде многослойной структуры, соединённой через сквозные переходные отверстия (TSV). К стоимости добавлен вычислительный кристалл, выполняющий поручения рядом с памятью и разгружая основную ЦП.

Согласно тестам, HBC обеспечивает шестиградуе увеличение пропускной способности на ватт по сравнению с HBM4. Ускоритель AI250 с HBC достигает 133 ТБ/с, что в 18 раз превосходит LPDDR5x, используемую в AI200. Новую технологию планируют внедрить в AI250, запланированном к выходу в следующем году.