Российская компания Orion soft анонсировала StarGuard AI — платформу для обеспечения безопасности при работе с большими языковыми моделями.
StarGuard AI работает как reverse proxy-шлюз, анализируя весь трафик между пользователями, корпоративными системами и языковыми моделями (LLM). Разработчики подчеркнули, что это позволяет компаниям не блокировать, а безопасно интегрировать ИИ в рабочие процессы, контролируя доступ, обрабатываемые данные и получаемые ответы.
Система безопасности платформы многоуровневая и использует собственные ML-модели для выявления конфиденциальной информации, а также детекторы для предотвращения атак типа jailbreak и prompt-инъекций. Это помогает блокировать токсичный или запрещённый контент в ИИ-чатах, HR-ассистентах и сервисах поддержки, снижая репутационные риски.
Ещё одной особенностью StarGuard AI стало централизованное управление доступом к различным языковым моделям. Через единый шлюз можно подключать как облачные сервисы (ChatGPT, Claude, YandexGPT), так и локальные LLM.
Решение интегрируется с OpenWebUI, IDE и корпоративными платформами без необходимости менять клиентскую инфраструктуру.