Решение позволяет эффективнее использовать уже установленное оборудование
Группа Rubytech представила обновленную версию Машины искусственного интеллекта Скала^р, добавив платформу управления ИИ-инфраструктурой «Спектр ИИ». Решение предназначено для более эффективного использования GPU-ускорителей: по данным компании, их загрузку можно повысить с обычных 30–40% до 70–85%.
«Спектр ИИ» объединяет вычислительные узлы в единый кластер и распределяет ресурсы между командами и задачами. Планировщик учитывает приоритеты и очередность работ, а возможность разделять GPU на части позволяет одновременно запускать несколько нагрузок. Это дает возможность использовать уже установленное оборудование интенсивнее и отложить закупку дополнительных ускорителей при росте числа задач.
Платформа поддерживает запуск и управление контейнерами с ИИ-приложениями и моделями, мониторинг нагрузки, разграничение доступа и работу с корпоративным каталогом моделей. В том числе предусмотрена загрузка моделей из внешних и внутренних репозиториев.
«Спектр ИИ» работает на базе Deckhouse Kubernetes Platform, поддерживает «Ред ОС» и Astra Linux. Кластер можно масштабировать до 32 узлов, каждый из которых оснащается восемью GPU. Управление ресурсами и очередями осуществляется через единый интерфейс с ролевым разграничением доступа.
