Искусственный интеллект уже прогнозирует спрос, анализирует документы, помогает программистам, создает контент и берет на себя часть рутинных операций. Но чем активнее бизнес внедряет нейросети, тем важнее становится другой вопрос: не что они умеют, а чему из этого можно доверять.
Андрей Масалович смотрит на нынешний бум искусственного интеллекта без технологической эйфории. В Интернете его знают как Кибердеда. Профессионально — как эксперта по конкурентной и интернет-разведке, президента Консорциума «Инфорус», разработчика платформы интернет-разведки Avalanche, кандидата физико-математических наук и подполковника ФАПСИ в отставке.
Масалович — автор более 200 печатных работ, руководитель более 20 международных проектов, лауреат стипендии РАН «Выдающийся ученый России». Сам он называет себя еще проще и ироничнее — «специалистом по связям с реальностью». Именно такая формулировка есть на его визитке и именно в этой роли он обычно разбирает технологии: не через обещания индустрии, а через вопрос, что из заявленного действительно работает.
Искусственным интеллектом Масалович занимается с 1990 года. Поэтому сегодняшний нейросетевой бум для него — не первая встреча с обещаниями скорого технологического переворота, а очередной виток гораздо более длинной истории.
Его позицию можно свести к парадоксальной на первый взгляд формуле: искусственный интеллект уже чрезвычайно полезен бизнесу — именно поэтому ему нельзя слепо доверять. Не потому, что технология «плохая». А потому, что мы слишком часто требуем от нее того, чем она не является.
ИИ давно в бизнесе. Просто раньше мы не разговаривали с ним в чате
Когда сегодня говорят об искусственном интеллекте, разговор почти автоматически сводится к генеративным моделям: ChatGPT, Алисе, Claude, DeepSeek и другим системам, с которыми можно вести диалог.
Из-за этого возникает ощущение, будто ИИ появился несколько лет назад. Но алгоритмы, которые изучают поведение человека, прогнозируют предпочтения и помогают принимать решения, существуют в бизнесе намного дольше.
Рекомендательные системы подбирают товары. Алгоритмы прогнозируют спрос. Компьютерное зрение контролирует качество. Модели анализируют отзывы и репутационный фон. Предиктивные системы помогают управлять запасами и заранее определять необходимость обслуживания оборудования. И именно здесь проходит первая важная граница.
Искусственный интеллект особенно эффективен не тогда, когда ему говорят:
«Подумай за меня». А когда ставят гораздо более скучную и конкретную задачу:
«Проанализируй вот эти данные и реши вот эту одну задачу в заданных границах».
Например, у бизнеса есть продукт с коротким сроком хранения. Произвести слишком много — значит получить списания. Произвести слишком мало — потерять продажи и оставить часть покупателей без продукта.
Для такой задачи можно анализировать историю продаж, день недели, сезонность, погоду, акции и десятки других параметров, чтобы приблизиться к модели just in time — производить максимально близко к реальному спросу.
Здесь результат измерим. Снизились списания или нет? Выросла доступность товара или нет? Увеличилась маржинальность или нет?
Именно так выглядит здоровое внедрение ИИ: есть задача, данные, критерий качества и возможность проверить результат.
Проблемы начинаются там, где вместо этого появляется абстрактное: «Давайте внедрим искусственный интеллект».
Главная иллюзия: если нейросеть говорит как человек, значит, она думает как человек
Современная языковая модель создала очень необычный психологический эффект. Машина впервые научилась настолько убедительно имитировать человеческую коммуникацию, что мы автоматически приписываем ей человеческий способ мышления. Она отвечает уверенно. Умеет поддержать разговор. Объясняет. Шутит. Иногда спорит. И создается ощущение, что где-то внутри действительно сидит собеседник, который понял вопрос, обдумал его и сформулировал ответ.
Но способность построить связный текст еще не означает способности надежно понимать реальность. Масалович показывает это на намеренно простых примерах: арифметике, датах, бытовых логических вопросах. Модель может ответить неправильно, после уточнения исправиться, а в другой момент снова дать другой результат. И именно непостоянство здесь важнее самой ошибки.
В традиционной программе ошибка обычно воспроизводима: при одинаковых условиях система снова падает в том же месте.
С генеративной моделью все сложнее. Сегодня она может ответить правильно, завтра — неправильно, а послезавтра снова правильно. Поэтому один успешный тест еще не означает, что процесс надежен.
Отсюда один из центральных тезисов Масаловича: ИИ не должен восприниматься как самостоятельная замена эксперта. Это инструмент, результат которого необходимо контролировать. И для бизнеса это принципиальная разница. Ошибка в дружеской переписке ничего не стоит. Ошибка в финансовой модели, договоре, аналитическом отчете, медицинском заключении или управленческом решении уже имеет цену.
Вместо вопроса «насколько умна модель?» задайте другой
Для бизнеса гораздо полезнее спрашивать: что произойдет, если ИИ ошибется именно здесь?
Если нейросеть придумала неудачный вариант заголовка — его можно удалить. Если неправильно расставила теги в большой базе — результат можно перепроверить.
Но если модель самостоятельно согласовала платеж, отправила юридически значимое сообщение, приняла кадровое решение или сформировала критический прогноз — последствия совсем другие.
Именно цена ошибки должна определять степень автономности системы. Чем выше последствия, тем меньше свободы следует оставлять генеративной модели и тем больше контрольных механизмов должно стоять вокруг нее.
«Ловушка ожиданий»: где бизнес начинает терять деньги
Масалович называет одну из главных проблем нынешней волны ИИ ловушкой ожиданий.
Сначала компания слышит обещания рынка. Затем появляется желание решить сразу большую проблему: автоматизировать отдел, сократить штат, построить «безлюдное производство», передать машине аналитику целиком. Следом возникает иллюзия контроля. Интерфейс удобен. Ответы выглядят профессионально. Демонстрация проходит великолепно. Но внутри остается система, механизм принятия решений которой пользователь далеко не всегда способен восстановить.
Масалович выделяет несколько связанных рисков: завышенные ожидания, эффект «черного ящика», риски безопасности, быстрое устаревание технологий и постепенную потерю собственной человеческой экспертизы.
Последний пункт особенно интересен. Представим классическую структуру команды:
junior → middle → senior.
ИИ уже способен взять на себя заметную долю задач начинающего специалиста. В моменте это выглядит экономически прекрасно: один опытный сотрудник вместе с нейросетью может выполнять объем работы небольшой команды. Но junior — это не только сотрудник, выполняющий простые задачи. Это будущий middle. А middle — будущий senior.
Если компания несколько лет подряд перестает выращивать специалистов снизу, экономия сегодня может превратиться в дефицит экспертизы завтра. Поэтому считать эффект от автоматизации только через сокращение человеко-часов опасно.
Хорошая ИИ-система начинается там, где заканчивается свобода нейросети
Один из самых важных практических тезисов Масаловича касается архитектуры. Сильное решение не обязательно должно состоять из одной огромной модели, которая умеет всё. Наоборот. Чем серьезнее задача, тем полезнее разбить ее на множество маленьких операций.
Допустим, пользователь говорит системе: «Купи мне билет в Петербург на завтра». Языковая модель может понять намерение человека. Но дальше совсем не обязательно позволять ей самой «рассуждать» о расписании, стоимости и доступности билетов. Как только намерение определено, система может переключиться на специализированные инструменты: расписание получать из базы; цену — через API; математику отдавать калькулятору; покупку — транзакционному модулю; подтверждение — человеку.
Именно такую архитектуру Масалович считает значительно более перспективной: разговорный слой ИИ должен быть окружен агентами и программными модулями с жесткой логикой. Получается очень простая схема: нейросеть понимает намерение; программа выполняет точную операцию; система проверяет; человек контролирует критические решения.
В этой конструкции ИИ уже не изображает универсального сотрудника. Он становится интерфейсом и координатором.
Одна нейросеть сказала — еще не значит, что решение принято
Для процессов с высокой ценой ошибки одного ответа модели недостаточно.
Масалович приводит более сложную архитектуру, где одинаковую задачу независимо анализируют несколько моделей, после чего отдельный модуль сравнивает результаты.
Если системы пришли к близкому выводу — уровень доверия повышается. Если ответы существенно расходятся — решение не принимается автоматически. Подключается человек или задача отправляется на дополнительную проверку. Параллельно могут работать отдельные модули-оценщики, которые следят за соблюдением заданных правил и ограничений. Принцип здесь важнее конкретного количества моделей.
Критический бизнес-процесс нельзя строить по схеме «один запрос → один ответ → автоматическое действие». Между ответом ИИ и реальным действием нужны предохранители.
Human in the loop: человек остается не потому, что технология плохая
Есть соблазн воспринимать человеческий контроль как временный недостаток нынешнего поколения ИИ. Мол, сегодня еще приходится проверять машину, но через несколько лет она станет достаточно умной — и человек исчезнет из процесса.
Масалович предлагает более прагматичный взгляд. В критических системах человек — не костыль. Он является последним уровнем ответственности. Модель может собрать информацию. Сопоставить варианты. Подготовить рекомендацию. Показать возможные сценарии. Но у человека должна сохраниться возможность согласиться, отказаться или отложить решение. Подобную трехступенчатую механику принятия критических решений Масалович отдельно разбирает как важный элемент надежной ИИ-системы. Поэтому зрелость автоматизации измеряется не количеством исчезнувших людей. А качеством распределения ответственности.
Вторая большая проблема — мы добровольно отдаем ИИ свои данные
Пока компании обсуждают точность моделей, рядом существует другой риск. Данные. Сегодня сотруднику ничего не стоит скопировать внутренний документ во внешний нейросервис. Загрузить договор. Вставить код. Отправить финансовую таблицу. Передать клиентскую переписку. Попросить сделать резюме закрытого исследования.
Для самого сотрудника это выглядит как обычная оптимизация работы. Для бизнеса это уже вопрос информационной безопасности.
Именно поэтому Масалович отдельно предупреждает о передаче служебной, корпоративной и другой чувствительной информации внешним системам и рассматривает локальную работу с моделями как один из способов снизить риски.
Первый вопрос при выборе корпоративного ИИ поэтому должен звучать не: «Какая модель сейчас самая сильная?» А: «Какие данные мы собираемся ей отдавать и куда они после этого попадут?»
Локальная модель решает одну проблему. Но не все
Интерес к локальному ИИ будет расти именно по этой причине. Если модель работает внутри собственной инфраструктуры компании, данные не обязательно передавать во внешнее облако. Для организаций с коммерческой тайной, интеллектуальной собственностью и чувствительной клиентской информацией это принципиальное преимущество.
Масалович предлагает рассматривать физически или сетево изолированный вычислительный контур как первый уровень доверенной среды: модель и данные работают на подконтрольной инфраструктуре. Но здесь возникает новая ловушка.
«Локальный» не означает «правильный». Вы закрыли канал потенциальной утечки. Но модель все еще может ошибаться. Поэтому настоящий доверенный контур требует дополнительных слоев: контроля доступа, оценщиков, журналирования, проверки результатов и возможности человеческого вмешательства.
Пять принципов корпоративного ИИ
Если собрать подход Масаловича в одну практическую конструкцию, можно сформулировать пять правил.
Первое — локализуйте чувствительные данные. Чем выше ценность информации, тем жестче должен контролироваться контур, внутри которого работает модель.
Второе — ограничивайте задачу. Не просите универсальную модель «управлять процессом». Разбивайте процесс на конкретные операции.
Третье — используйте специализированные инструменты. То, что можно надежно посчитать калькулятором, не должна придумывать языковая модель.
Четвертое — стройте систему проверки. Оценщики, независимые модели, контрольные правила, базы фактов и другие механизмы должны ловить ошибку до того, как она превратится в действие.
Пятое — оставляйте человека в точке ответственности. Особенно там, где решение связано с деньгами, безопасностью, правом, репутацией или жизнью людей.
Локальная обработка, разграничение доступа, декомпозиция задачи и независимая проверка — именно эти элементы превращают ИИ из потенциально непредсказуемого «черного ящика» в управляемый инструмент.
Следующий конкурентный ресурс — не промпты, а корпоративные знания
Еще одна важная тема — онтологии. Если говорить проще, это формализованное описание того, как устроен мир конкретной компании.Что такое клиент? Чем лид отличается от сделки? Какие существуют типы договоров? Кто имеет доступ к определенной информации? Какие объекты связаны друг с другом? Какие действия допустимы? Какая информация считается подтвержденной?
Обычная языковая модель не знает корпоративного смысла этих понятий. Она опирается на усредненный контекст, полученный при обучении.
Поэтому чем больше свободы ей дают, тем больше пространства остается для интерпретации. Онтология, напротив, задает структуру: узлы, связи и правила, которые модель должна учитывать. В обсуждении Масалович и Сергей Ватьяков отдельно отмечают потенциал такого подхода как способа жестче привязать работу ИИ к заданной предметной области. И здесь может находиться один из ключевых корпоративных активов будущего. Не секретный промпт. Не подписка на самую дорогую нейросеть. А хорошо структурированное собственное знание компании.
Чем лучше ИИ, тем важнее качество исходных данных
Даже самая сильная модель не превращает плохую информацию в надежное решение. Если входные данные неполны, противоречивы, устарели или были намеренно искажены, результат тоже будет проблемным. Поэтому инвестиции в искусственный интеллект без инвестиций в данные часто заканчиваются разочарованием.
Масалович отдельно относит качество информации к ключевым условиям эффективного использования ИИ: работу необходимо начинать не только с моделей, но и с очистки, проверки и организации самих данных.
Перед вопросом: «Какую нейросеть нам внедрить?» полезно задать другой:
«А наши данные вообще позволяют принимать на их основе решения?»
Бизнесу не обязательно создавать собственный ChatGPT
Еще одна важная мысль касается масштаба. Рынок привык сравнивать фундаментальные модели по количеству параметров и вычислительных ресурсов. Для большинства компаний это соревнование практически бессмысленно.
Бизнесу обычно не нужна модель, которая знает все обо всем. Ему нужен инструмент, который очень хорошо решает конкретную задачу. Работает с договорами. Анализирует техническую документацию. Классифицирует обращения. Находит аномалии. Помогает работать с корпоративной базой знаний.
Масалович отдельно выделяет развитие локальных решений, дистилляцию и более компактные модели как одно из перспективных направлений. И это открывает интересное окно для малого и среднего технологического бизнеса.
Не обязательно соревноваться с крупнейшими корпорациями за самую большую модель. Можно построить лучший маленький инструмент для очень дорогой конкретной проблемы.
ИИ начинается не с сервера. Он начинается с людей
Даже идеальная технология бесполезна, если внутри компании никто не понимает, как она работает. Поэтому, рассуждая о внедрении собственной ИИ-инфраструктуры, Масалович предлагает начинать с одного-двух компетентных специалистов, которые будут отвечать за направление. Важна не только разработка: нужен человек, понимающий данные, устройство моделей, ограничения и специфику применения.
Это намного разумнее, чем сразу объявлять корпоративную AI-трансформацию.
Сначала — компетенция. Потом — пилот. Потом — измеримый эффект. И только после этого масштабирование.
С чего начать внедрение ИИ в компании
Подход Масаловича можно превратить в достаточно простой алгоритм.
1. Проведите технологическую разведку. Посмотрите, какие задачи в вашей отрасли уже реально решаются с помощью ИИ — не в презентациях, а в работающих продуктах.
2. Выберите одну конкретную проблему. Не «автоматизировать маркетинг», а, например, сократить время первичного анализа 500 отзывов.
3. Определите цену ошибки. Что произойдет, если модель ошибется?
4. Разберитесь с данными. Достаточно ли их? Актуальны ли они? Можно ли передавать их внешнему провайдеру?
5. Определите контрольные точки. Что проверяется автоматически, а где решение обязан принять человек?
6. Заранее установите показатель эффективности. Скорость, стоимость операции, процент ошибок, количество обработанных документов, снижение списаний — результат должен измеряться.
7. Обучайте сотрудников не только пользоваться ИИ, но и сомневаться в нем.
В финале своего подхода Масалович особенно подчеркивает три вещи: необходимость изучать реальные сценарии применения технологии, постоянно проверять ее результат и развивать критическое мышление сотрудников. И, пожалуй, именно последний пункт со временем станет самым важным.
Чем больше ИИ будет вокруг нас, тем дороже станет способность думать самостоятельно
Мы привыкли обсуждать искусственный интеллект через то, что он сможет забрать у человека. Тексты. Код. Аналитику. Рабочие места.
Но, возможно, главный риск находится немного в другой плоскости. Если человек перестает проверять результат машины, потому что та почти всегда отвечает убедительно, постепенно исчезает сама привычка задавать вопросы.
Откуда взялась эта информация? Почему получился именно такой результат? На каких данных основан вывод? Можно ли воспроизвести расчет? Есть ли первоисточник? Что произойдет, если ответ неверен?
Поэтому главное конкурентное преимущество эпохи ИИ может оказаться неожиданно человеческим. Критическое мышление. Не способность написать самый хитрый промпт. Не доступ к самой большой модели. Не количество автоматизированных сотрудников. А способность понимать границы технологии и не путать убедительность ответа с его истинностью.
Именно поэтому позиция Андрея Масаловича звучит гораздо менее пессимистично, чем может показаться на первый взгляд. Он не предлагает отказаться от искусственного интеллекта. Напротив: ИИ уже способен давать бизнесу огромное преимущество. Но использовать его стоит ровно как любой другой мощный инструмент — понимая устройство, ограничения и цену ошибки.
Вопрос будущего поэтому не в том, заменит ли искусственный интеллект человека.
Гораздо важнее другое: сумеет ли человек сохранить за собой право и способность проверить то, что предложил искусственный интеллект.