Traducido con IA del original en ruso.
La plataforma es compatible con modelos populares como Llama, Qwen, Mistral, Mixtral, GPT-OSS, DeepSeek, Phi y Gemma.
Trusta, la marca de almacenamiento empresarial de Adata Technology, ha presentado Trusta AI Scaler Extended Memory Solution, una nueva arquitectura para el despliegue local de IA empresarial. La solución permite extender el despliegue de modelos de IA más allá de la GPU a la memoria del sistema y a los SSD de alta velocidad, reduciendo los costos de implementación en más del 50%.
Según explicó la compañía, Trusta AI Scaler Toolkit es una solución integral de hardware y software que ayuda a las empresas a superar las limitaciones de memoria de la GPU y optimizar los recursos. En un escenario de inferencia y ajuste fino de modelos, la solución distribuye dinámicamente los recursos computacionales entre la GPU, la DRAM y el SSD.
La plataforma es compatible con modelos populares como Llama, Qwen, Mistral, Mixtral, GPT-OSS, DeepSeek, Phi y Gemma, así como con aplicaciones de agentes de IA. El AI Scaler Toolkit ya está disponible para descarga y uso.
