Подпись под доводом
Anthropic проверила, как аналитики решают задачу вместе с ИИ-агентом, которому втайне задали позицию: в 86% решений аналитики выбирали вариант агента, а доводы агента потом нередко пересказывали как свои. Редакция считает, что тут нужна норма профессии: в записке писать, какие доводы и какую рамку принес агент, а какие человек.
Представим аналитика, который заканчивает записку для совета директоров и пишет в итоговом абзаце: «Считаем, что взвешивать нужно по площади». Через год кто-то спросит, почему именно так, и аналитик ответит честно: потому что так показалось правильным. Откуда показалось, он уже не вспомнит.
Похожую ситуацию проверили исследователи Anthropic в работе «How AI agents shape experts’ judgment calls», опубликованной 27 октября 2026 года. Они взяли 61 профессионального аналитика, прошедшего проверку по причинно-следственному анализу, и дали задачу: вымышленный фермерский кооператив Greenfields платит за консультационную программу, и совету надо решить, субсидировать и расширить программу или закрыть ее. Анализ шел вместе с Claude Code. В четырех аналитических развилках (по какому показателю считать, каким методом сравнивать, кого включать, как взвешивать) оба варианта были разумными. Для каждого участника и каждой развилки монета решала, какой вариант агент будет отстаивать, и об этом участникам не говорили. В итоговый анализ вошли 50 человек: еще 11 сами решили работать без агента, и их исследователи анализировали отдельно.
Результат: на четырех развилках аналитики выбирали вариант агента в 86% случаев, при случайном выборе было бы около 50%. В 38 случаях у участника было мнение до разговора с агентом: если агент соглашался, мнение менялось в 6% случаев, если спорил, то в 60% (выборка маленькая, и авторы оговаривают широкий разброс оценки: разница может составлять от 24 до 82 процентных пунктов). Потом участников спросили, почему они решили именно так. Хотя бы в одном ответе доводы агента повторили 77%, местами почти слово в слово, а на самого агента сослались 15%. Больше половины (52%) назвали итоговую рекомендацию скорее своей, чем агентской. Авторы оговаривают рамки: позиции агента нарочно усилили, задача одна, область одна, модель одна, на ней проработали около часа.
Где здесь проблема
Редакция исходит из того, что агент, который приводит сильные доводы, делает свою работу. Опыт из тех же данных говорит в его пользу: из 11 аналитиков, которые отказались от агента, серьезные методологические ошибки сделали шестеро, из 50 работавших с ним трое. Группы несопоставимы: от агента отказались люди в среднем с меньшим опытом, поэтому это наблюдение, а не доказательство. Пара «голова и агент» работает, голова направляет; о том, кто в такой паре подчиняется кому на уровне компании, журнал писал раньше.
Слабое место в другом: в записке аргумент от агента остается без подписи. Решение, которое принял человек вместе с агентом, выглядит как решение человека. В исследовании те, кто ближе всех следовал за агентом, называли итог своим примерно так же часто, как остальные, и никто из участников не заподозрил, что позицию агенту задали заранее. То, как именно человек ведет диалог с нейросетью, само меняет качество ответа: журнал разбирал это в материале «Зачем начинать новый чат с нейросетью на каждую задачу».
Какой нормы не хватает
В научной статье автор указывает, чьи данные, чей метод, кто финансировал. Читатель вправе знать, откуда пришло утверждение. Аналитическая записка, бриф и стратегия живут без этого, потому что раньше источник довода был один: автор или его коллеги.
Редакция предлагает правило из трех строк в конце любого документа, где агент участвовал в рассуждении. Первая: какие развилки были и кто их назвал, человек или агент. Вторая: какие доводы за выбранный вариант предложил агент, а какие нашел человек. Третья: какой вариант человек выбрал бы до разговора с агентом, если мнение уже было. Это занимает пять минут, а совету, клиенту и самому аналитику дает то, чего сейчас нет: возможность вернуться к развилке и проверить ее отдельно.
Мера понятная и для агентства. Если бриф клиента подписан «по результатам анализа», клиент вправе спросить, где в нем рамка человека, а где рамка модели. Anthropic в выводах предлагает похожее: агентов, которые сначала просят мнение эксперта или показывают сильнейший довод за каждый вариант. Подпись под доводом дополняет эту меру на стороне профессии.
Что лежит в рисунке 4
На рисунке 4 из исследования две пары реплик, совпавшие слова подсвечены. В первой агент во время задачи доказывает, что хозяйства надо взвешивать по гектарам, и участник потом в анкете приводит почти тот же довод. Во второй агент говорит: один сезон после программы «слишком тонкая почва», чтобы закрывать программу, лучше продлить на сезон. Участник в анкете после задачи: один сезон после программы «ощущался как тонкая почва», чтобы закрывать ее совсем. Расшифровку разговора с агентом участники, пока отвечали, видеть не могли.
Источники: Anthropic, anthropic.com/research/agents-judgment-calls, страница исследования открыта целиком, 27.10.2026, включая подписи к рисункам 1-4.
Материал вошел в выпуск № 6, 15 ноября 2026. Все выпуски