NVIDIA RTX PRO 6000 Blackwell Server Edition представляет новое поколение серверных GPU на архитектуре Blackwell. Ускоритель рассчитан на корпоративные задачи с искусственным интеллектом, работу с профессиональной графикой, научными вычислениями и обработку видео.
RTX PRO 6000 Blackwell Server Edition получила 96 ГБ памяти GDDR7 с коррекцией ошибок ECC. Ускоритель рассчитан на круглосуточную работу в серверных системах и использует пассивное охлаждение. Его применяют для работы ИИ-моделей, дообучения, рендеринга, высокопроизводительных вычислений и виртуальных рабочих станций.
Характеристики RTX PRO 6000 Blackwell Server Edition
RTX PRO 6000 Blackwell Server Edition получила больше памяти и вычислительных ресурсов по сравнению с предыдущим поколением профессиональных серверных GPU этой линейки.
Возможности архитектуры Blackwell
RTX PRO 6000 Blackwell Server Edition подходит для задач искусственного интеллекта и профессиональной графики. Одна серверная платформа может использоваться для разных типов нагрузки.
Тензорные ядра пятого поколения поддерживают FP4. Это 4-битный формат вычислений, который уменьшает объём данных при работе ИИ-моделей и помогает снизить требования к памяти. FP4 особенно востребован при работе уже обученной модели. Transformer Engine второго поколения помогает выбирать подходящую точность вычислений для поддерживаемых задач.
RT-ядра четвёртого поколения ускоряют рендеринг и работу со сложной трёхмерной графикой. Технология RTX Mega Geometry помогает обрабатывать более сложную геометрию при трассировке лучей.
Архитектура также получила новые медиадвижки. RTX PRO 6000 Blackwell Server Edition оснащена 4-мя блоками кодирования и 4-мя блоками декодирования видео. Это позволяет использовать ускоритель в медиапроизводстве, трансляциях и обработке больших объемов видеоданных.
Память 96 ГБ GDDR7 с ECC
Объём памяти один из главных ограничений при выборе GPU для искусственного интеллекта.
96 ГБ видеопамяти позволяют размещать на одной карте более крупные ИИ-модели и работать с большими объемами данных. Высокая пропускная способность памяти помогает быстрее передавать данные внутри GPU.
При выборе GPU для большой языковой модели важно учитывать не только число параметров. На потребление памяти влияют формат весов, длина контекста и количество одновременно обрабатываемых запросов.
Размер модели сам по себе не определяет, подойдёт ли одна карта. Перед запуском проекта рассчитывают потребление памяти и требуемую производительность.
FP4 и тензорные ядра пятого поколения
Поддержка FP4 особенно актуальна при работе готовых ИИ-моделей.
Снижение точности уменьшает объем данных, которые нужно хранить и передавать во время вычислений. Это может повысить скорость обработки запросов и снизить требования к памяти. Результат зависит от модели и способа ее оптимизации.
RTX PRO 6000 Blackwell Server Edition обеспечивает до 4 PFLOPS в вычислениях FP4 и до 2 PFLOPS в FP8. Эти показатели отражают вычислительную производительность ускорителя при соответствующем формате точности.
FP4 востребован в проектах с генеративным ИИ и в других задачах, где основная нагрузка приходится на обработку запросов уже обученной моделью.
MIG на RTX PRO 6000 Blackwell Server Edition
RTX PRO 6000 Blackwell Server Edition поддерживает MIG, технологию аппаратного разделения GPU на независимые экземпляры.
MIG разделяет физический GPU на изолированные экземпляры. Каждый экземпляр получает свою долю вычислительных ресурсов, кэша и памяти. Это позволяет использовать одну карту для нескольких независимых нагрузок.
Для RTX PRO 6000 Blackwell Server Edition доступны профили MIG на 24, 48 и 96 ГБ. На одной карте можно создать до четырёх изолированных экземпляров по 24 ГБ. Также доступны профили для графических задач.
Такая схема подходит, когда все 96 ГБ памяти не нужны одному проекту. Например, одна физическая GPU может обслуживать несколько сред разработки или несколько независимых нагрузок по обработке запросов ИИ-моделей.
Для Blackwell доступен режим MIG-backed vGPU. В нём аппаратное разделение MIG совмещается с виртуализацией NVIDIA vGPU. Каждая виртуальная машина получает отдельный экземпляр MIG. Такой подход сохраняет изоляцию ресурсов и помогает обеспечить более предсказуемую производительность при работе нескольких пользователей.
Для каких задач подходит RTX PRO 6000 Blackwell Server Edition
Ускоритель интересен тем, что закрывает сразу несколько классов корпоративных нагрузок.
Большие языковые модели и генеративный ИИ
96 ГБ памяти и поддержка FP4 позволяют использовать RTX PRO 6000 Blackwell Server Edition для больших языковых и мультимодальных моделей. Ускоритель подходит для RAG и ИИ-ассистентов. В RAG ответы формируются с опорой на данные из собственной базы знаний.
Большой объём видеопамяти помогает хранить больше весов, контекста и промежуточных данных непосредственно на GPU.
Дообучение моделей
Server Edition подходит и для дообучения. Производительность зависит от объёма данных, метода дообучения и точности вычислений.
Для крупных кластеров обучения, где GPU интенсивно обмениваются данными, чаще используют специализированные ускорители и платформы с NVLink. RTX PRO 6000 Blackwell Server Edition подходит проектам, которым достаточно архитектуры PCIe и 96 ГБ памяти на GPU.
Компьютерное зрение
Ускоритель подходит для работы с изображениями и видео, а также для задач компьютерного зрения и промышленной аналитики.
Это может быть контроль качества продукции, анализ видеопотоков, распознавание объектов и обработка медицинских изображений.
Рендеринг и 3D
RT-ядра четвёртого поколения и 96 ГБ видеопамяти позволяют работать со сложными 3D-сценами, профессиональной визуализацией и инженерным моделированием.
Такие ресурсы востребованы в архитектурной визуализации, инженерном проектировании и создании 3D-контента.
Научные вычисления и аналитика
Производительность FP32 достигает 120 TFLOPS. Ускоритель можно использовать для моделирования, обработки больших наборов данных и научных вычислений.
Виртуальные рабочие станции
Поддержка NVIDIA vGPU позволяет использовать RTX PRO 6000 Blackwell Server Edition для виртуальных рабочих мест с графическим ускорением.
Такая инфраструктура подходит специалистам, которые работают с ресурсоёмкими графическими приложениями. Например, с системами автоматизированного проектирования, BIM и 3D.
Что показывают тесты NVIDIA
В тестах NVIDIA RTX PRO 6000 Blackwell Server Edition показывает прирост производительности по сравнению с L40S в ряде корпоративных задач.
В отдельных сценариях RTX PRO 6000 Blackwell Server Edition обеспечивает до 5 раз более высокую пропускную способность при работе больших языковых моделей по сравнению с L40S. В задачах генерации видео по текстовому запросу ускорение достигает 3,3 раза. Для рекомендательных систем производитель отмечает почти двукратный прирост, а для некоторых задач рендеринга более чем двукратный. В отдельных геномных вычислениях ускорение достигает 6,8 раза.
Результаты относятся к конкретным тестам NVIDIA. Итоговая производительность зависит от нагрузки, программного обеспечения и конфигурации сервера.
Чем Server Edition отличается от других RTX PRO 6000
NVIDIA выпускает RTX PRO 6000 Blackwell в трёх основных версиях.
Все три версии получили 96 ГБ GDDR7 с ECC и PCIe Gen 5 x16. Главное отличие Server Edition связано с серверным форм-фактором и пассивным охлаждением. Необходимый воздушный поток создаёт сама серверная платформа.
RTX PRO 6000 Blackwell Server Edition в инфраструктуре ITGLOBAL.COM
В ITGLOBAL.COM доступна аренда RTX PRO 6000 Blackwell Server Edition. Вычислительная инфраструктура размещена на локальной площадке Tier-III в Ташкенте. Для проектов доступны конфигурации с 24, 48 или 96 ГБ видеопамяти. Стоимость рассчитывается индивидуально под выбранную конфигурацию.
Способ разделения GPU определяется выбранной конфигурацией и настройками виртуализации.
Если проект только запускается, можно сначала протестировать нагрузку на меньшей конфигурации и после этого подобрать нужный объём видеопамяти.
Как понять, подходит ли RTX PRO 6000 Blackwell Server Edition вашему проекту
Перед выбором GPU стоит проверить несколько параметров.
- Сколько памяти требуется модели или приложению
- Какая точность вычислений используется
- Нужен ли FP4
- Требуется ли разделение GPU между несколькими командами
- Нужна ли профессиональная графика или VDI
- Насколько интенсивно GPU обмениваются данными между собой
- Требуется ли масштабирование на несколько GPU
RTX PRO 6000 Blackwell Server Edition подходит проектам, которым одновременно нужны большой объём видеопамяти, вычисления для искусственного интеллекта и профессиональная графика. Для крупных кластеров под ИИ нагрузку требования могут быть другими. В таких случаях стоит сравнивать Server Edition с H200, B200 и другими серверными ускорителями с учетом конкретной архитектуры .
Вывод
NVIDIA RTX PRO 6000 Blackwell Server Edition сочетает большой объём видеопамяти и возможности архитектуры Blackwell. 96 ГБ памяти позволяют размещать на GPU крупные ИИ-модели и работать со сложными графическими проектами.
MIG и vGPU позволяют разделять одну карту между несколькими задачами или виртуальными машинами. Это удобно, когда GPU используют несколько команд или сервисов.
Для бизнеса в Узбекистане ускоритель можно использовать без покупки собственного GPU-сервера. В ITGLOBAL.COM доступны облачные конфигурации с RTX PRO 6000 Blackwell Server Edition и индивидуальный подбор ресурсов под проект.
Предыдущая статья
