Что такое выделенный GPU-сервер
Выделенный сервер с GPU (GPU dedicated server, bare metal GPU) — это высокопроизводительная вычислительная инфраструктура, предоставляемая в монопольное пользование.
В отличие от облачных решений, где ресурсы изолированы на логическом уровне, выделенный сервер предоставляет их в монопольное использование, обеспечивая полный контроль над их распределением.
Где используются выделенные GPU-серверы
Физические GPU используют в задачах, где необходим постоянный доступ к вычислительным ресурсам сервера.
Архитектура выделенных GPU-серверов
Параметры двух серверных платформ, доступных для размещения GPU.
| Параметр | Конфигурация №1 | Конфигурация №2 |
|---|---|---|
| Процессор | AMD EPYC 7313, 16 cores@3.0 GHz | 2 x AMD EPYC 9005 (Turin) |
| Оперативная память | от 64 GB RAM | 24 слота памяти DDR5 RDIMM 6400MT/s |
| GPU-ускоритель | до 2 GPU на сервер | до 8 GPU на сервер |
| Хранилище данных | 2 × 480GB SSD SATA | 2 × 480GB SSD SATA |
| Сетевые интерфейсы | 1 × 2-port 25Gb Eth SFP28 | 2 × 10GbE RJ45 (Intel X710) |
Доступные графические ускорители
В перечне оборудования — NVIDIA H200, RTX PRO 6000 Blackwell Server Edition, A100/A800 и SOPHGO SC7 HP75.
SOPHGO SC7 HP75
Ускоритель для компьютерного зрения, обработки и анализа изображений.
Конфигурации выделенных серверов с GPU
Серверы с NVIDIA H200 и RTX PRO 6000 Blackwell Server Edition доступны с разным количеством ускорителей и оперативной памяти. Стоимость рассчитывается для выбранной конфигурации.
NVIDIA H200
141 GB видеопамяти на ускоритель
Процессор: 2 × AMD EPYC 9335 / 9555 • Сеть: 2 × 2-port 25Gb Eth SFP28
1 × GPU
256 GB RAM
2 × GPU
512 GB RAM
NVLink Bridge
3 × GPU
512 GB RAM
NVLink: 2 GPU + 1 отдельно
4 × GPU
1024 GB RAM
NVLink Bridge
8 × GPU
1536 GB RAM
2 × NVLink 4-way Bridge
NVIDIA RTX PRO 6000 Blackwell Server Edition
96 GB видеопамяти на ускоритель
1 × GPU
128 GB RAM
2 × GPU
256 GB RAM
4 × GPU
512 GB RAM
6 × GPU
1024 GB RAM
8 × GPU
1024 GB RAM
Индивидуальная конфигурация
Укажите модель и количество GPU, объём RAM и требования к сети. Подготовим спецификацию и расчёт стоимости.
Стоимость аренды выделенного GPU-сервера
Цена зависит от модели и количества GPU, комплектации сервера и срока аренды.
Оплата производится ежемесячно по согласованной ставке. Итоговая стоимость указывается в коммерческом предложении.
Поддержка NVLink
NVLink обеспечивает прямой обмен данными между совместимыми GPU и используется в конфигурациях для распределённых вычислений. Благодаря NVLink несколько GPU могут работать как единая система, совместно используя память и вычислительные ресурсы.
Схема соединения зависит от конфигурации: в варианте с тремя H200 мост соединяет две GPU, третья работает отдельно; для восьми H200 предусмотрены два моста NVLink 4-way.
Преимущества NVLink для AI и глубокого обучения
NVLink ускоряет обмен данными между совместимыми GPU и упрощает работу с задачами, которые распределяются между несколькими ускорителями.
NVLink обеспечивает более высокую пропускную способность между ускорителями по сравнению с PCIe, что особенно важно при распределённом обучении.
Несколько GPU можно использовать как единую вычислительную систему при работе с распределёнными задачами.
Данные и вычисления можно распределять между несколькими ускорителями, если ресурсов одной GPU недостаточно.
Снижается объём промежуточных операций передачи данных, что повышает эффективность многопроцессорных вычислений.
Высокоскоростное соединение между GPU помогает эффективнее распределять вычисления при параллельной обработке.
GPU могут обмениваться данными напрямую, без необходимости передавать каждый поток данных через центральный процессор.
Преимущества выделенных серверов с GPU от ITGLOBAL.COM
Полный доступ к ресурсам сервера
GPU, CPU и оперативная память используются одним заказчиком без разделения физических ресурсов с другими клиентами.
Размещение на площадке клиента
При необходимости GPU-сервер можно разместить в инфраструктуре заказчика и интегрировать в существующий ИТ-контур.
Размещение в дата-центрах
Доступно размещение оборудования в дата-центрах ITGLOBAL.COM, включая площадки Tier III в разных регионах.
Конфигурации под разные нагрузки
Можно выбрать количество GPU, объём оперативной памяти и процессоры в соответствии с требованиями проекта.
Интеграция с другими сервисами
Выделенный GPU-сервер можно объединить с облачной инфраструктурой, сетевыми сервисами и другими решениями ITGLOBAL.COM.
Поддержка 24/7
Инженеры ITGLOBAL.COM доступны круглосуточно по вопросам работы предоставленной инфраструктуры.
Запросить расчёт стоимости
Укажите необходимую модель GPU, количество ускорителей и требования к серверу. Подготовим коммерческое предложение.