Платформа поддерживает популярные модели, включая Llama, Qwen, Mistral, Mixtral, GPT-OSS, DeepSeek, Phi и Gemma.
Trusta, корпоративный бренд хранения данных Adata Technology, представил Trusta AI Scaler Extended Memory Solution — новую архитектуру для локального развертывания корпоративного ИИ. Решение позволяет расширить развертывание моделей ИИ за пределы GPU на системную память и высокоскоростные SSD, снижая затраты на внедрение более чем на 50%.
Как пояснили в компании, Trusta AI Scaler Toolkit — это комплексное программно-аппаратное решение, которое помогает предприятиям преодолеть ограничения памяти GPU и оптимизировать ресурсы. В сценарии инференса и файн-тюнинга моделей решение динамически распределяет вычислительные ресурсы между GPU, DRAM и SSD.
Платформа поддерживает популярные модели, включая Llama, Qwen, Mistral, Mixtral, GPT-OSS, DeepSeek, Phi и Gemma, а также приложения ИИ-агентов. AI Scaler Toolkit уже доступен для скачивания и использования.
