Разработка может снизить затраты на запуск ИИ-сервисов и требования к оборудованию

Команда MWS AI открыла доступ к исходному коду CoSpaDi — метода сжатия больших языковых моделей без дополнительного обучения. Разработка позволяет уменьшать размер нейросетей, сохраняя точность их ответов. Код опубликован на GitHub.

Метод CoSpaDi (Compressing LLMs via Calibration-Guided Sparse Dictionary Learning) разработан исследователями Центра фундаментальных исследований MWS AI. Он основан на более компактном представлении весов нейросети: параметры модели кодируются с помощью комбинаций небольшого числа элементов специально сформированного словаря.

В ходе испытаний на моделях Llama и Qwen с 0,6–14 млрд параметров метод обеспечил сокращение размера на 20–40%. При этом точность ответов в среднем оказалась выше, чем у SVD-LLM — одного из распространенных подходов к сжатию нейросетей.

Технология может быть востребована компаниями, которые запускают языковые модели на оборудовании с ограниченной памятью. Она позволит сократить затраты на инфраструктуру, развертывать модели внутри корпоративного контура или одновременно обслуживать больше пользователей на существующих мощностях. Кроме того, CoSpaDi может ускорять работу нейросетей — результат зависит от аппаратного обеспечения и программной реализации.

Сейчас на главной

Новости

Премия «Лучшее для жизни. Дизайн без границ» (Best for Life Design) – 2026 открывает прием заявок на премию

Дизайн сегодня выходит далеко за пределы архитектуры и интерьера. Он присутствует во всех сферах жизни: в книгах и медиа, цифровых интерфейсах, рекламе и брендинге, городской инфраструктуре и культуре. Каждый человек взаимодействует с результатами дизайнерских решений – выбирает, запоминает, ориентируется и принимает решения.

Новости

«МедиаКульт – 2026». От экономики внимания до ИИ – важные тренды индустрии на одной площадке

Прием заявок на «МедиаКульт – 2026» – одно из ключевых индустриальных событий, объединяющее профессиональную премию и деловой форум для лидеров медиа, маркетинга, креативных индустрий и технологий. Мероприятие пройдет осенью в Москве и соберет более 500 участников – представителей бизнеса, агентств, медиа и государственных структур.

Новости

Продолжается прием заявок на участие в премии «Время инноваций – 2026»

В 2026 году российская экономика столкнулась с серьезным вызовом: несмотря на активное развитие технологий искусственного интеллекта и усиление требований к информационной безопасности, внедрение инноваций во все сферы жизни остается локальным и несистемным.

Новости

Марш ИИ по вашему бюджету: форум «МЕДИАКУЛЬТ – 2026»

Искусственный интеллект стремительно меняет креативную индустрию. Он ускоряет производство контента, перестраивает работу маркетинговых команд и открывает новые возможности для персонализации коммуникаций. Однако вместе с этим бизнес сталкивается с вопросами качества, авторства, эффективности и границ применения нейросетей.