ITPOD анонсировал сервер для задач ИИ и компьютерного зрения
ITPOD, входящий в корпорацию ITG, представил сервер ITPOD-ASR201-S08R (AI), созданный на базе процессоров AMD EPYC 7003 серии (Milan) с поддержкой PCIe 4.0. Этот сервер подходит для работы с нейронными сетями, высокопроизводительными вычислениями и задачами компьютерного зрения.
Сервер поддерживает установку двух ускорителей GPU, TPU или DPU от таких производителей, как NVIDIA, Moore Threads и Sophgo. Он совместим с ускорителями NVIDIA H100, L40S, T4, SOPHGO SC7 HP75 и Moore Threads MTT S4000.
Тесты на нейронной сети LLaMA 3.1 70B показали, что два ускорителя NVIDIA L40S обеспечивают вдвое большую производительность по сравнению с одним GPU NVIDIA A800 (80GB). Скорость работы диалоговой модели Qwen-14B-Chat составила 10 токенов в секунду.
В задачах компьютерного зрения один TPU SOPHGO SC7 HP75 завершил инференс модели YOLOv5s за 6.2 секунды на 30-секундном видео, подчеркивая его эффективность.
«Мы разработали экономически эффективные серверы для решения задач умеренного масштаба в области искусственного интеллекта, компьютерного зрения и высокопроизводительных вычислений, ориентируясь на запросы российского рынка. Сегодня нейросетевые технологии занимают важное место в работе компаний различных отраслей. Например, они подходят для анализа большого количества видеопотоков, что востребовано в разработке ПО для управления автономными аппаратами, таких как решения компании Wheelies. Также они могут быть использованы для создания продуктов в области автоматизации рабочих процессов, подобные AI-агентам от Ainergy. Контролируя весь процесс производства и сборки оборудования, мы гарантируем его надежную и эффективную работу», – подытожил Илья Борняков, генеральный директор ITPOD, корпорация ITG.
«Мы рады представить новейший сервер ITPOD-ASR201-S08R (AI), который не только соответствует современным требованиям в области искусственного интеллекта и компьютерного зрения, но и обеспечивает высокую гибкость для наших клиентов. Этот продукт — результат постоянного стремления нашего вендора ITPOD к инновациям и поддержке российских технологий, и мы уверены, что он станет мощным инструментом для решения самых сложных ИТ-задач в бизнесе», — отметил Василий Белов, исполнительный директор ITGLOBAL.COM, корпорация ITG.