La solución permite utilizar modelos populares, incluidos DeepSeek, Qwen, GLM y otros, sin implementar su propia infraestructura.
El proveedor ruso de infraestructura de TI Selectel ha lanzado un enrutador de IA, un servicio que proporciona acceso centralizado a más de 300 modelos de lenguaje generativos a través de un único punto de conexión.
Una de las funciones clave es el enrutamiento automático de solicitudes. Si uno de los proveedores de modelos no está disponible, el sistema cambia la carga a una opción de respaldo, lo que ayuda a evitar fallas. Según la compañía, las solicitudes de los usuarios no se guardan ni se utilizan para entrenar modelos, y el procesamiento de datos se realiza en la infraestructura rusa.
El servicio admite una clave maestra única, así como la creación de claves API separadas para equipos y proyectos. La integración se realiza a través de una API estándar, por lo que la implementación no requiere la reescritura del código existente.
Además, el enrutador de IA permite establecer límites de gasto, controlar el uso de modelos y rastrear estadísticas en tiempo real. El pago se realiza en función del consumo real de tokens dentro de un único contrato y factura en rublos.
