На предыдущую страницу
Блог

MIG и vGPU в корпоративной инфраструктуре: модели разделения GPU

В корпоративной среде один физический GPU редко загружен на 100% одной задачей: обучение модели идёт параллельно с инференсом, несколько специалистов делят мощности, а часть ресурсов нужно изолировать под SLA-критичные сервисы. При этом сам графический ускоритель — ресурс дорогой и дефицитный, поэтому простой мощностей или неэффективное распределение напрямую бьют по TCO.

С делением CPU-ресурсов всё привычно: гипервизор распределяет ядра и память между виртуальными машинами. С GPU сложнее — вычислительные блоки и видеопамять устроены иначе, простое временное разделение создаёт непредсказуемые задержки под нагрузкой. NVIDIA решает эту задачу двумя механизмами: MIG — аппаратное разделение самого ускорителя на изолированные экземпляры, и vGPU — программная виртуализация доступа к GPU для нескольких виртуальных машин. Это не конкурирующие технологии, а инструменты для разных инфраструктурных сценариев.

Что такое MIG

MIG (Multi-Instance GPU) — технология аппаратного разделения GPU, доступная на ускорителях NVIDIA начиная с поколения Ampere. Она разбивает один физический ускоритель на несколько независимых экземпляров. Размер и количество таких экземпляров определяются доступными MIG-профилями конкретного GPU. Например, на RTX PRO 6000 Blackwell Server Edition (96 ГБ) доступны профили: 12/24/48/96 ГБ.

Конфигурацию можно изменять, однако для этого требуется остановка активных задач на ускорителе. Поэтому MIG плохо подходит для сред, где GPU-ресурсы необходимо часто перераспределять между нагрузками. Сильные стороны MIG проявляются в сценариях, где важны гарантированная производительность и изоляция.

Сценарии для использования MIG: инференс, многопользовательские ИИ-платформы, тестовые среды и инфраструктура с жёсткими требованиями по SLA.

Рис. 1 — Multi-Instance GPU (MIG)

Что такое vGPU

Если MIG — это аппаратное разделение самого ускорителя на части, то vGPU — технология виртуализации GPU, при которой гипервизор предоставляет виртуальным машинам доступ к вычислительным ресурсам одного физического ускорителя через программный слой NVIDIA vGPU Manager. Каждая ВМ получает собственный виртуальный графический адаптер и работает с ним как с обычным устройством, не зная о наличии соседних машин. Физический GPU скрыт за слоем виртуализации — гостевая ОС не видит, какую долю ресурсов ей выделили и делит ли она ускоритель с другими ВМ.

Управление ресурсами vGPU строится через NVIDIA vGPU Manager на стороне гипервизора и гостевые драйверы внутри виртуальных машин. vGPU работает в двух принципиально разных режимах: time-slicing (разделение GPU по времени между ВМ) и MIG-backed (каждая ВМ получает выделенную MIG-партицию через vGPU). Разница между режимами критична для корпоративных сред — ниже разберём каждый. Администратор платформы виртуализации задаёт распределение ресурсов через профили vGPU, выбирая объём видеопамяти и тип нагрузки: графический, вычислительный или смешанный.

Рис.2 — архитектура NVIDIA vGPU

Арендовать облачный сервер с GPU

Time-slicing vGPU

Встроенный планировщик vGPU Manager поочерёдно предоставляет каждой виртуальной машине доступ к вычислительным ресурсам ускорителя. Профиль vGPU определяет объём видеопамяти и тип нагрузки. В каждый момент GPU выполняет задачи только одной ВМ; переключение между ними происходит быстро, но не мгновенно. Такой подход позволяет разместить на одном ускорителе несколько нагрузок одновременно.

Time-slicing проектировался под гибкость и высокую плотность размещения, а не под гарантированную производительность. При одновременной пиковой нагрузке со стороны нескольких ВМ они конкурируют за доступ к GPU, задержка растёт, производительность падает — и предсказать, насколько именно, невозможно.

Типичные сценарии: интерактивные среды для дата-сайенс, разработка и отладка моделей, инференс без жестких требований к SLA.

MIG-backed vGPU

MIG-backed vGPU объединяет аппаратную изоляцию MIG с инструментами виртуальной среды. Физический GPU сначала делится на MIG-экземпляры с фиксированным объёмом памяти, кэша и ядер. Затем vGPU Manager оформляет каждый экземпляр как виртуальный GPU внутри ВМ — гостевая ОС видит его как обычное устройство, не подозревая о физическом разделении.

Результат: каждая виртуальная машина получает аппаратно изолированную долю GPU с гарантированной производительностью. Соседние нагрузки не влияют друг на друга — в отличие от time-slicing, где пиковая активность одной ВМ снижает производительность всех остальных. При этом администратор управляет GPU-ресурсами через стандартные инструменты платформы виртуализации (VMware, Hyper-V).

Реализация MIG-backed vGPU требует лицензии NVIDIA AI Enterprise, совместимого гипервизора и настройки MIG-профилей на каждом узле — это сложнее и дороже чистого time-slicing. Однако для SLA-критичных сервисов, многопользовательских ИИ-платформ и сред с жёсткими требованиями к изоляции затраты оправданы.

Типичные сценарии: инференс с гарантированной производительностью, SLA-критичные AI-нагрузки, многопользовательские платформы, где несколько клиентов делят один физический GPU.

Дополнительная возможность: внутри MIG-экземпляра можно включить time-slicing и разместить на нём несколько ВМ. Это позволяет нарастить плотность без потери аппаратной изоляции между группами нагрузок. 

Сравнение моделей разделения GPU

MIG и vGPU — не конкурирующие технологии, а инструменты для разных сценариев. vGPU, в свою очередь, работает в двух режимах: time-slicing (классический vGPU с разделением по времени) и MIG-backed (vGPU поверх аппаратной MIG-партиции). В таблице ниже — сравнение всех трёх подходов.

Таблица 1. Сравнение моделей разделения GPU

MIG Time-Sliced vGPU MIG-Backed vGPU
Изоляция рабочих нагрузок Аппаратная, на уровне MIG-экземпляра Пространственно-временное разделение Аппаратная изоляция на уровне MIG-экземпляра + инструменты платформы виртуализации
Назначение Однопользовательские среды с жёсткими требованиями к изоляции Многопользовательские сценарии с нестрогими требованиями к изоляции Многопользовательские сценарии со строгими требованиями к изоляции и производительности
ОС Linux (одна ОС на экземпляр) Каждая ВМ — своя ОС (Linux или Windows) Каждая ВМ — своя ОС (Linux или Windows)
Гарантированная производительность Да Нет Да
Live migration Не поддерживается Поддерживается (vMotion, при совместимости драйверов и GPU на целевом хосте) Поддерживается (vMotion, требуется совпадающая MIG-конфигурация на целевом хосте)
Гибкость перераспределения Низкая — требуется остановка задач Высокая — динамическое перераспределение Средняя — изменение MIG-разметки требует остановки, внутри экземпляра гибко

 

Лицензирование NVIDIA vGPU

vGPU — проприетарная технология NVIDIA, для её использования необходима лицензия. Лицензирование охватывает весь vGPU-стек: NVIDIA vGPU Manager на стороне гипервизора и гостевые драйверы внутри виртуальных машин. Стек получает лицензии через NVIDIA License System (NLS). В зависимости от требований среды используется облачный сервер лицензирования Cloud License Service (CLS) или локальный Delegated License Service (DLS) — например, в закрытых контурах без прямого доступа в интернет.

При отсутствии действующей лицензии vGPU-драйвер переходит в режим ограниченной производительности: снижается быстродействие GPU, частота кадров виртуальной машины ограничивается до 3 FPS. Виртуальные рабочие места и графические приложения в таком режиме практически непригодны для нормальной эксплуатации.

Для разных сценариев NVIDIA применяет отдельные типы лицензий:

  • vPC — для виртуальных рабочих мест.
  • vWS — для профессиональной графики.
  • vCS — для вычислительных задач.

Тип лицензии влияет не только на допустимый сценарий использования, но и на набор доступных функций драйвера и vGPU-стека.

Аренда GPU Cloud от ITGLOBAL.COM

На практике корпоративные заказчики всё чаще выбирают не покупку и самостоятельную настройку GPU-парка, а аренду GPU в облаке — это снимает вопросы лицензирования, конфигурации и поддержки.

ITGLOBAL.COM обладает действующей лицензией NVIDIA AI Enterprise и предоставляет GPU в аренду с поддержкой vGPU в обоих режимах: time-slicing и MIG-backed.

Наиболее производительный и надёжный сценарий — MIG-backed vGPU. Он даёт аппаратную изоляцию, гарантированную производительность и управление через стандартные инструменты виртуализации. В облаке ITGLOBAL.COM MIG-backed vGPU доступен на картах RTX PRO 6000 Blackwell Server Edition — это та же технология, которую используют крупные AI-платформы, но без необходимости покупать и настраивать оборудование самостоятельно.

Арендовать облачный сервер с GPU

Таблица 2. Доступные GPU

Характеристики NVIDIA H200 RTX Pro 6000 Blackwell Server Edition NVIDIA A100/A800 NVIDIA A16 NVIDIA L40S
Архитектура Hopper Blackwell Ampere Ampere Ada Lovelace
CUDA-core 16 896 24 064 6 912 1 280 × 4 чипа 18 176
Tensor-core 528 752 432 160 × 4 чипа 568
RT-core 188 40 × 4 чипа 142
Объём VRAM 141 ГБ HBM3e 96 ГБ GDDR7 80 ГБ HBM2e 64 ГБ GDDR6 (16 ГБ × 4) 48 ГБ GDDR6
Поддержка MIG
Пропускная способность памяти 4,8 ТБ/с 1,6 ТБ/с 2 ТБ/с 232 ГБ/с на чип 864 ГБ/с

Для части GPU доступны преднастроенные профили vGPU с фиксированным объёмом видеопамяти, vCPU и RAM. Профиль выбирается под конкретную задачу — от лёгких инференс-нагрузок до тяжёлых вычислений с полным объёмом памяти ускорителя.

Таблица 3. Профили vGPU

Модель Профиль VRAM vCPU RAM
NVIDIA A100/A800 10 ГБ 4 16 ГБ
NVIDIA A100/A800 20 ГБ 8 32 ГБ
NVIDIA A100/A800 40 ГБ 16 64 ГБ
NVIDIA A100/A800 80 ГБ 24 128 ГБ
NVIDIA RTX PRO 6000 Blackwell 12 ГБ 4 16 ГБ
NVIDIA RTX PRO 6000 Blackwell 24 ГБ 8 32 ГБ
NVIDIA RTX PRO 6000 Blackwell 48 ГБ 16 64 ГБ
NVIDIA RTX PRO 6000 Blackwell 96 ГБ 24 128 ГБ

Заключение

Выбор модели разделения GPU — решение, которое определяет производительность, изоляцию и стоимость корпоративной ИИ-инфраструктуры.

Time-slicing vGPU даёт гибкость и плотность, но не гарантирует производительность под нагрузкой. Чистый MIG даёт изоляцию, но требует ручного управления и не интегрирован в платформу виртуализации. MIG-backed vGPU объединяет сильные стороны обоих подходов: аппаратную изоляцию и предсказуемую производительность MIG с удобством управления через гипервизор.

Для SLA-критичных сервисов, многопользовательских ИИ-платформ и корпоративных сред, где нагрузка должна быть изолирована и предсказуема, MIG-backed vGPU — оптимальный выбор. ITGLOBAL.COM предоставляет GPU с этой технологией в аренду, снимая с заказчика вопросы лицензирования, настройки и поддержки.

FAQ

MIG делит GPU на изолированные экземпляры, но не предоставляет инструментов виртуализации. MIG-backed vGPU добавляет поверх аппаратной изоляции полноценную виртуальную среду: администратор управляет GPU-ресурсами теми же инструментами, что и остальной инфраструктурой.

MIG — аппаратная функция GPU. При использовании напрямую, без слоя виртуализации (bare-metal), лицензия vGPU не требуется. Достаточно драйверов NVIDIA и поддержки MIG в ОС. Лицензия NVIDIA AI Enterprise нужна при использовании MIG-backed vGPU — когда MIG-экземпляр подключается к виртуальной машине через vGPU Manager.

Time-slicing подходит там, где нагрузки непостоянны и допустима вариация производительности: разработка, отладка, интерактивные среды. MIG-backed vGPU нужен, когда важна предсказуемая производительность с гарантиями уровня SLA и жёсткая изоляция между задачами или клиентами.

Нет. MIG поддерживается только на части ускорителей, начиная с поколения Ampere: A100/A800, H200, RTX PRO 6000 Blackwell Server Edition. На A16, L40S и потребительских картах MIG недоступен.

vGPU-драйвер переходит в режим ограниченной производительности. Графические нагрузки и виртуальные рабочие места становятся фактически неработоспособными — частота кадров ограничивается до 3 FPS. Для вычислительных ИИ-нагрузок деградация выражается в снижении быстродействия GPU.

Оцените данную статью

Узнавайте о выходе новых статей в блоге первыми!

Подпишитесь на нашу рассылку