Отзывы о XK GI42G3

4U-шасси позволило установить 8×A100 80GB с полноценным воздушным охлаждением. Под distributed training на Megatron-LM — линейное масштабирование до 8 GPU с efficiency >92%. NVLink между парами GPU — inter-GPU bandwidth 600 GB/s. Для обучения LLM до 70B параметров — оптимальный выбор.

Сравнивали с DGX A100 — GI42G3 даёт сопоставимую производительность при существенно меньшей стоимости. 32 DIMM DDR4 — достаточно для data preprocessing pipeline. 4U форм-фактор обеспечивает хороший airflow, GPU thermal throttling не наблюдали даже при 48-часовых training runs.

Хорошая платформа для рендер-ферм. 8 GPU-слотов PCIe 4.0 x16 — все карты работают на полной скорости. BMC мониторинг GPU через DCMI — температуры, power draw, utilization. Из пожеланий — поддержка жидкостного охлаждения для high-density стоек.