Traducido con IA del original en ruso.
La plataforma Inference Valve de MWS Cloud está diseñada para la implementación y explotación de modelos de inteligencia artificial.
Según los desarrolladores, la plataforma permite crear modelos ML entrenados "de cualquier tipo", grandes modelos de lenguaje (LLM) y modelos de visión artificial (CV). Con Inference Valve, se pueden implementar en la infraestructura existente, conectar a los sistemas de TI de la empresa a través de API estándar, escalar, así como actualizar y supervisar.
Los modelos CV pueden analizar automáticamente videos, encontrando objetos, escenas y acciones específicas o clasificando imágenes médicas. Los modelos ML y LLM podrán generar y estructurar textos, analizar datos, crear su descripción, predecir indicadores de marketing y ventas, responder a preguntas frecuentes en portales de RR. HH. También se pueden implementar modelos de voz en la plataforma para la síntesis y el análisis del habla, así como su implementación en centros de llamadas.
Las empresas pueden implementar tanto sus propios modelos de IA entrenados como utilizar modelos de código abierto listos para usar. La plataforma está disponible en una nube privada en la infraestructura de MWS Cloud, on-premises en los servidores del cliente, así como en complejos de hardware y software (PAK) en un circuito cerrado, incluidos los modos con acceso limitado a redes externas.
La plataforma admite el trabajo simultáneo con varios modelos con asignación de cuotas de recursos informáticos, gestión de versiones, enrutamiento de tráfico entre versiones y escalado bajo carga tanto en GPU como en CPU.
