Комплексная ускоренная вычислительная платформа для искусственного интеллекта и высокопроизводительных вычислений
ИИ‑модели, сложные симуляции и массивы данных требуют множества графических процессоров (GPU) с чрезвычайно быстрыми межсоединениями и полной ускоренной программной стек‑платформой. Платформа NVIDIA HGX объединяет мощь GPU NVIDIA, технологию NVLink, сетевые решения NVIDIA и полностью оптимизированные программные стеки для ИИ и HPC.
Где применяется HGX
Training LLM — обучение моделей с сотнями миллиардов параметров;
Generative AI — генерация текста, изображений, видео и аудио в реальном времени;
Inference at Scale — миллионы запросов в секунду для сервисов уровня ChatGPT или Copilot;
HPC — научные и промышленные расчёты: климатические модели, аэродинамика, молекулярная динамика.
Технические характеристики
Сервер Dell XE9680 6U с воздушным охлаждением
2× Intel Xeon Scalable Gen4/5 (до 64 ядер)
32× DDR5 4800/5600 MHz RDIMM — до 2 ТБ памяти
Поддержка до 8× GPU: NVIDIA H200 141GB SXM, AMD Instinct MI300X 192GB OAM или Intel Gaudi 3 128GB
До 8× SATA/SAS/NVMe накопителей
Прорывная связность GPU
NVLink — сверхбыстрая шина, объединяющая видеокарты в единый пул ресурсов;
Пропускная способность до 900 ТБ/с на GPU H200;
Прямая работа с общей памятью без перегрузки CPU;
Масштабирование — от 8 GPU в сервере до сотен GPU в одной системе через NVLink Switch.
Архитектура NVIDIA SuperPOD
Сотни GPU объединяются в единую систему с общей памятью;
Сеть NDR 400 Gbps InfiniBand с минимальными задержками;
Производительность: десятки ТБ/с на уровне стойки;
Программный стек: NVIDIA Base Command + AI Enterprise.
Реальные задачи, которые решает HGX
LLM GPT-3 (175B параметров, FP16=700GB VRAM) — полностью помещается в память одного HGX-сервера;
Stable Diffusion XL — обучение на гигантских датасетах и тысячный инференс изображений в секунду;
CFD, MD — симуляции с миллиардами элементов для аэродинамики и фармацевтики.
