NVIDIA L40S
NVIDIA L40S — это универсальный графический ускоритель, предназначенный для работы в центрах обработки данных, обеспечивающий высокую производительность для различных нагрузок, включая генеративный ИИ, обучение и инференс больших языковых моделей (LLM), а также для различных задач связанных с графикой, таких как 3D-дизайн.
Технологии и особенности
- L40S построен на архитектуре NVIDIA Ada Lovelace и включает четвертое поколение тензорных ядер, третье поколение RT-ядер и ядра CUDA.
- GPU поддерживает до 48 ГБ памяти GDDR6 с ECC и имеет максимальную потребляемую мощность 350 Вт.
- L40S обеспечивает до 1466 терафлопс производительности тензорных ядер и 91,6 терафлопс производительности в вычислениях одинарной точности (FP32).
Производительность и возможности
L40S оптимизирован для работы в режиме 24/7 в центрах обработки данных и поддерживает новейшие стандарты безопасности и надежности. Он обеспечивает до 5 раз выше производительность инференса по сравнению с предыдущим поколением, что делает его идеальным для приложений генеративного ИИ и обучения ИИ моделей. Кроме того, благодаря поддержке NVIDIA DLSS 3, L40S способен значительно ускорить рендеринг и улучшить частоту кадров в графических приложениях.
Сферы применения NVIDIA L40S
L40S подходит для различных сфер, включая:
- Генеративный ИИ и инференс LLM: Обеспечивает высокую производительность для обучения и инференса современных моделей ИИ.
- Рендеринг и 3D графика: Поддержка профессиональных 3D-визуализационных приложений, ускорение процессов создания высококачественного визуального контента.
- NVIDIA Omniverse: Интеграция с Omniverse для разработки и эксплуатации приложений в области промышленной цифровизации и создания цифровых двойников.