Traducido con IA del original en ruso.
El nuevo producto fue desarrollado en respuesta a los crecientes riesgos asociados con el uso de la IA en los negocios.
La empresa rusa Orion soft ha anunciado StarGuard AI, una plataforma para garantizar la seguridad al trabajar con grandes modelos de lenguaje.
StarGuard AI funciona como una puerta de enlace de proxy inverso, analizando todo el tráfico entre usuarios, sistemas corporativos y modelos de lenguaje (LLM). Los desarrolladores enfatizaron que esto permite a las empresas no bloquear, sino integrar de forma segura la IA en los flujos de trabajo, controlando el acceso, los datos procesados y las respuestas recibidas.
El sistema de seguridad de la plataforma es multinivel y utiliza sus propios modelos de ML para identificar información confidencial, así como detectores para prevenir ataques de tipo jailbreak e inyecciones de prompt. Esto ayuda a bloquear contenido tóxico o prohibido en chats de IA, asistentes de RRHH y servicios de soporte, reduciendo los riesgos reputacionales.
Otra característica de StarGuard AI es la gestión centralizada del acceso a varios modelos de lenguaje. A través de una única puerta de enlace, se pueden conectar tanto servicios en la nube (ChatGPT, Claude, YandexGPT) como LLM locales.
La solución se integra con OpenWebUI, IDE y plataformas corporativas sin necesidad de cambiar la infraestructura del cliente.
