Недорогой дома собранный AI‑сервер с NVIDIA Grace Hopper

В Reddit один пользователь заметил объявление о продаже сервера с двумя чипами NVIDIA GH200 «Grace Hopper». Изначальная цена 10 000 €, однако после торга покупатель сумел добиться скидки до 7 000 €.

Внутри стойки расположены два 144‑ядровых чипа ARM, одновременно два ускорителя H100, 2×480 ГБ LPDDR5x ECC и 192 ГБ HBM3‑памяти, а также 900 ГБ/с пропускная способность NVLink‑C2C, 3 000 Вт на блоке питания и 4×PCIe 5.0 x16.

Оригинальное охлаждение в сервере было воздушным, но владелец заменил его на жидкостное. Чтобы восстановить исходную систему, разработчик Дэвид Ноэль (David Noel) распечатал на 3D‑принтере необходимые детали и изготовил медные водоблоки по заказу.

В результате удалось нормализовать теплоотвод, снизить шум и запустить крупные языковые модели до 235 млрд параметров. Такой сервер в розницу обходится минимум в 60 000 €, а ремонт и обновления стоили около 9 000 €.