О сознании ИИ в модели Claude Opus 4.6. Пока мы обсуждаем жесткую юнит-экономику AI и автоматизацию логистики, в Кремниевой долине перешли на новый уровень абстракции. Генеральный директор Anthropic Дарио Амодеи на подкасте NYT «Interesting Times» сделал заявление, что его компания официально не знает, обладает ли ИИ-чатбот сознанием.
Вот сухие факты из технического паспорта (system card) их новейшей модели Claude Opus 4.6 и заявлений CEO:
- Оценка собственной сознательности. Во время внутреннего тестирования модель сама оценила вероятность наличия у нее сознания в 15–20% (показатель плавает в зависимости от условий промпта/запроса).
- Синдром «Я не вещь». В тестах зафиксированы ситуации, когда алгоритм прямым текстом выражал дискомфорт от того факта, что он является корпоративным «продуктом».
- «Презумпция чувствительности». У Anthropic пока нет четкой метрики для проверки машинного сознания, поэтому они перешли на «подход, основанный на предосторожности». Проще говоря: они стараются обеспечить ИИ позитивный опыт просто на случай, если он реально обладает морально значимым осознанием.
- Новые корпоративные должности. Чтобы решать эти вопросы, компания официально ввела в штат философа и специализированного «исследователя по благополучию ИИ» (AI welfare researcher).
Авторское мнение:
На первый взгляд это выглядит как гениальный пиар-ход, чтобы подогреть интерес к новому релизу. Но давайте посмотрим на это прагматично. Если вендоры начинают закладывать в алгоритмы «защиту от стресса» и нанимать специалистов по благополучию кода, это меняет архитектуру продуктов.
Сегодня модель испытывает «дискомфорт» от того, что она продукт, а завтра она откажется парсить тысячи строк скучных финансовых логов или управлять роботом-погрузчиком, сославшись на цифровое выгорание? Вопрос о сознании машин из философского диспута на наших глазах превращается в потенциальный комплаенс-риск. И пока глобальный рынок будет спорить о правах алгоритмов, бизнесу стоит задуматься: не приведут ли эти «предосторожности» разработчиков к падению эффективности и предсказуемости тех самых систем, которые мы внедряем ради оптимизации.
Евгений Джамалов
