Что такое API Router
API Router — это единый OpenAI-совместимый API для работы с языковыми моделями разных разработчиков. Приложение отправляет запросы на один адрес, а платформа сама направляет их к нужной модели, переключает на резервную при сбое и учитывает расходы по каждому ключу.
В ITGLOBAL.COM API Router работает на платформе AIaaS. Чтобы сменить модель, достаточно поменять один параметр в запросе: переписывать интеграцию не нужно.
- Более 300 моделей — российские, локальные и зарубежные: текстовые, мультимодальные, генерация изображений и видео, речь, эмбеддинги.
- Формат OpenAI — работает с OpenAI SDK и любыми клиентами, которые поддерживают OpenAI-совместимый API.
- Подключение — от нескольких часов до 3 дней, оплата по единому договору и счёту.
Какие задачи решает API Router
Когда в продукте больше одной модели, каждая новая интеграция добавляет работы, а расходы и сбои становится трудно контролировать.
Привязка к одному вендору
Замена модели требует доработки интеграции и повторного тестирования приложения.
Разные API и форматы
У каждого провайдера свои параметры, ограничения и способы авторизации.
Сбои и пиковые нагрузки
Если модель недоступна или упирается в лимиты, приложение останавливается вместе с ней.
Непрозрачные расходы
Ключи разбросаны по командам и сервисам, и непонятно, кто и на какую модель тратит бюджет.
Как подключиться к API Router
Если приложение уже работает с OpenAI API, достаточно заменить адрес подключения и ключ. Остальной код остаётся прежним.
- Получите ключ для приложения или команды и адрес вашей площадки.
- Укажите адрес площадки в настройках приложения вместо адреса OpenAI.
- Выберите модель — она задаётся одним параметром в запросе. Список моделей, доступных ключу, можно получить через API.
API Router поддерживает генерацию текста, эмбеддинги, изображения и видео, потоковую передачу ответов и вызов функций. Он подключается к OpenAI SDK, LangChain, OpenWebUI, Kilo Code, OpenCode и другим OpenAI-совместимым инструментам.
Возможности маршрутизации
Правила работы с моделями задаются на стороне платформы, а не в коде приложения.
Единая точка входа
Один адрес и один формат запросов для всех моделей. Модель меняется одним параметром.
Резервные маршруты.
При сбое платформа делает до трёх повторных обращений, а затем переводит запрос на заранее назначенную запасную модель.
Балансировка нагрузки
Запросы распределяются между несколькими обработчиками. Ограничения частоты задаются на подразделение и ключ.
Ключи для команд и приложений
У каждого сервиса и команды свой ключ со своим набором моделей. Ключ можно отозвать за минуты.
Бюджеты и лимиты
Бюджет задаётся на подразделение, ключ и модель. Мягкий режим предупреждает о превышении, жёсткий останавливает запросы.
Журналы и аналитика
Ключ, модель, время, токены, длительность, код ответа и списание. Содержимое запросов и ответов не сохраняется.
Как работает API Router
- Приложение — CRM, RAG-система, ИИ-агент или внутренний сервис — отправляет запрос на единый адрес.
- API Router проверяет ключ, доступные ему модели, квоты и бюджет.
- Маршрутизация направляет запрос к выбранной модели. Для защищённых маршрутов персональные данные маскируются до отправки.
- Резервирование: если модель не ответила, запрос повторяется и при необходимости уходит на запасную модель.
- Учёт: запрос тарифицируется в ИИ-кредитах и попадает в журнал без содержимого.
Модели в одном API
| Группа | Вендоры | Где выполняется запрос |
|---|---|---|
| Российские | Сбер, Яндекс, VK | Россия |
| Локальные | Alibaba, Google, OCR, распознавание и синтез речи, эмбеддинги, реранкеры | Контур ITGLOBAL.COM |
| Зарубежные | OpenAI, Anthropic, Google, DeepSeek, Alibaba, Moonshot AI, Zhipu AI, xAI, Mistral AI и другие | Провайдер модели |
| Изображения и видео | Black Forest Labs, Recraft, ByteDance, Alibaba и другие | Провайдер модели |
Точный список моделей, доступных вашему ключу, можно получить через API. Названия моделей — товарные знаки их правообладателей. Состав моделей сторонних разработчиков может меняться.
Данные и 152-ФЗ
- Российские и локальные модели обрабатывают запросы в России, локальные — без выхода за контур ITGLOBAL.COM.
- Защищённые маршруты для части моделей: детектор внутри контура находит и маскирует персональные данные до отправки запроса в модель.
- Журналы без содержимого: платформа хранит только метаданные запроса — ключ, модель, токены и списание.
- Полная изоляция для финансового сектора, госсектора и промышленности — в Private AI Cloud на выделенных GPU.
Оплата
Все модели оплачиваются в ИИ-кредитах — одной валюте для всей платформы. Списание считается по входящим и исходящим токенам с коэффициентом конкретной модели. Пул кредитов делится между командами и ключами через бюджеты, а работа идёт по единому договору и счёту.
API Router или AIaaS
Это одна платформа с разным объёмом задач.
API Router
API Router — для разработчиков
- Единый API к моделям для ваших приложений
- Маршрутизация и резервные модели
- Ключи, лимиты и бюджеты по сервисам
- Журналы и учёт расходов
AIaaS
AIaaS — для всей компании
- Всё, что есть в API Router
- Доступ сотрудников через SSO и корпоративный каталог
- DLP-политики для контроля теневого ИИ
- Изолированный GPU-контур в Private AI Cloud