La solución permite un uso más eficiente del hardware ya instalado
El grupo Rubytech presentó una versión actualizada de la Máquina de Inteligencia Artificial Skala^r, añadiendo la plataforma de gestión de infraestructura de IA «Spektr II». La solución está diseñada para un uso más eficiente de los aceleradores de GPU: según la compañía, su carga se puede aumentar del 30-40% habitual al 70-85%.
«Spektr II» unifica los nodos de cómputo en un clúster único y distribuye los recursos entre equipos y tareas. El planificador tiene en cuenta las prioridades y el orden de los trabajos, y la capacidad de dividir las GPU en partes permite ejecutar varias cargas de trabajo simultáneamente. Esto permite utilizar el hardware ya instalado de forma más intensiva y posponer la compra de aceleradores adicionales a medida que aumenta el número de tareas.
La plataforma admite el lanzamiento y la gestión de contenedores con aplicaciones y modelos de IA, la monitorización de la carga, la diferenciación de acceso y el trabajo con el catálogo de modelos corporativo. Esto incluye la carga de modelos desde repositorios externos e internos.
«Spektr II» funciona con Deckhouse Kubernetes Platform, es compatible con «Red OS» y Astra Linux. El clúster se puede escalar hasta 32 nodos, cada uno de los cuales está equipado con ocho GPU. La gestión de recursos y colas se realiza a través de una interfaz única con diferenciación de acceso basada en roles.
