Российский провайдер IT-инфраструктуры Selectel запустила ИИ-роутер — сервис, который предоставляет централизованный доступ к более чем 300 генеративным языковым моделям через единую точку подключения.
Одной из ключевых функций стала автоматическая маршрутизация запросов. Если один из поставщиков моделей недоступен, система переключает нагрузку на резервный вариант, что помогает избежать сбоев. По данным компании, запросы пользователей не сохраняются и не используются для обучения моделей, а обработка данных выполняется на российской инфраструктуре.
Сервис поддерживает единый мастер-ключ, а также создание отдельных API-ключей для команд и проектов. Интеграция осуществляется через стандартный API, поэтому внедрение не требует переработки существующего кода.
Кроме того, ИИ-роутер позволяет устанавливать лимиты расходов, контролировать использование моделей и отслеживать статистику в режиме реального времени. Оплата производится по фактическому потреблению токенов в рамках единого договора и счёта в рублях.