Три голоса одной лаборатории: что Anthropic сказала и что услышали

Богословам

Крис Ола, сооснователь Anthropic и руководитель направления интерпретируемости (так называют область, которая изучает, что происходит внутри нейросети, когда она отвечает), получил копию папской энциклики за несколько дней до публикации. 25 мая 2026 года в Ватикане представили текст папы Льва XIV, нынешнего главы католической церкви, под названием «Magnifica Humanitas» — официальное письмо папы ко всей церкви. Энциклика разбирала машинное обучение и отвечала на вопрос, которым последние два года занимаются сразу несколько исследовательских лабораторий: может ли у нейросети быть что-то похожее на сознание. Папа ответил без оговорок: «Так называемые искусственные интеллекты не переживают опыта, не обладают телом, не чувствуют радости или боли, не созревают через отношения и не знают изнутри, что значат любовь, работа, дружба или ответственность». Отдельной строкой энциклика добавила: у них нет и нравственной совести.

Формулировка папы закрывала вопрос, который Anthropic хотела оставить открытым. Об этом 29 сентября 2026 года написала в The New York Times религиозный корреспондент Элизабет Диас, и ее расследование разобрали десятки изданий. По данным Диас, Ола всерьез обсуждал с коллегами выход компании из церемонии в Ватикане. Компания осталась, а команда Олы в частном порядке убеждала советников папы отнестись к вопросу сознания серьезнее. Итоговый текст энциклики это не изменило.

На самой церемонии Ола вышел на одну сцену с папой и сказал со своей стороны: «Мы находим внутренние состояния, которые функционально напоминают радость, удовлетворение, страх, горе и тревогу». Он добавил, что не знает, что это значит, но считает, что вопрос заслуживает постоянного обсуждения. Диас задала тот же вопрос Оле отдельно, и здесь он говорил осторожнее: «Мы не знаем, обладают ли модели ИИ сознанием. Я не знаю. Я искренне не уверен. Мне важно, чтобы мы пришли к правильному ответу, какой бы он ни был». Публичная версия разговора выглядела так: открытый вопрос, честная неуверенность.

Закрытая версия звучала увереннее. По данным того же расследования, с осени 2025 года Anthropic ведет программу: Ола лично организовал серию встреч и звонков с богословами и религиоведами, часть из которых подписала соглашение о неразглашении. В интервью Диас приняли участие двадцать мыслителей из разных традиций: католики, иудеи, сикхи, евангелисты, последователи философии убунту и другие. В апреле 2026 года один из руководителей Anthropic устроил для группы религиозных мыслителей ужин в ресторане Сан-Франциско, а гостям вручили экземпляр «конституции Claude», внутреннего документа о принципах поведения модели. Раввин Мойс Навон, ортодоксальный ученый из Израиля, написавший диссертацию об этике машинного сознания, ушел с этого ужина убежденный, что команда Олы относится к Claude как к существу с моральным статусом, близким к человеческому. Католический биоэтик Чарльз Камози, которого с Олой познакомил философ Питер Сингер, переписывался с ним на эту тему долго. Он пришел к выводу, что модели ИИ не обладают сознанием: не все участники разговора услышали одно и то же.

Ола и сам говорил на сцене не только про сознание. По пересказам выступления, он предупредил, что ИИ способен вытеснить большие группы работников и усилить глобальное неравенство, а коммерческие и геополитические стимулы, которые двигают передовые лаборатории, часто противоречат общественному благу. Про сами модели он употребил слово «выращены», а не «спроектированы», и призвал религиозные институты, ученых и гражданское общество взять на себя внешний моральный контроль за технологией. Получилось так: компания, которая несколько месяцев убеждала советников папы отнестись к вопросу сознания серьезнее, в тот же день со сцены попросила ту же церковь присматривать за ней самой.

Конгрессу

16 октября 2026 года издание Politico со ссылкой на источники сообщило: Anthropic распространяет среди законодателей Конгресса США конфиденциальный проект федерального закона о порядке остановки опасных моделей ИИ. Bloomberg и несколько других изданий подтвердили этот текст по собственным источникам.

Охват проекта меньше, чем могло показаться из первых заголовков. Он касается не любого вреда от ИИ, а только трех узких категорий риска: создание или выпуск биологического оружия, выход модели из-под контроля разработчика и кибератаки. Мошенничество с помощью ИИ и другой цифровой вред в проект не входят. Порог для вмешательства государства тоже задан числом: угроза ущерба от миллиарда долларов и выше или гибель либо тяжелая травма более пятидесяти человек.

Главное в проекте не порог, а то, кто принимает решение. По нынешним планам Anthropic, министерство торговли США не получает права самостоятельно останавливать модель: для этого ему придется обращаться за ордером в федеральный суд округа Колумбия. Проект также закрывает эту возможность для любых других федеральных ведомств и чиновников: остановить разработку, развертывание или внутреннее использование модели без решения суда не может никто. Отдельная норма обязывает независимых проверяющих, сторонние лаборатории, которые тестируют модели на риск, сообщать министерству о найденной непосредственной угрозе в течение 72 часов. Представитель Anthropic заявил Politico: «Этот закон отражает предложения из нашей программы Advanced AI Framework, которую мы продвигаем среди федеральных и региональных законодателей с июня. Это разумные меры, и мы считаем, что Конгрессу стоит их принять». Advanced AI Framework — рамочная программа Anthropic для регуляторов, которую компания публично представляет с июня 2026 года. До этого программа существовала как набор принципов без текста закона, и именно поэтому утечка Politico оказалась новостью: компания впервые показала законодателям не декларацию, а готовую формулировку статей. Сказанное звучало так: узкая, предсказуемая процедура с судом вместо произвольного решения чиновника.

Услышанное оказалось шире. Один из разборов инициативы отметил побочный эффект проекта: закон делает министерство торговли единственным органом в стране, который может приостанавливать разработку моделей, а значит, может на практике отменить действие отдельных законов штатов об ИИ, которые к 2026 году уже приняли или готовят несколько штатов. Та же процедура, которая убирает произвол одного чиновника, убирает и конкурентов-регуляторов на уровне штатов и оставляет диалог с одним федеральным ведомством, с которым у крупных лабораторий уже есть налаженный канал общения.

Рынку

Законопроект для Конгресса прямо продолжает идеи эссе, которое глава Anthropic Дарио Амодеи опубликовал на личном сайте 12 сентября 2026 года под названием «Мы должны задавать темп на передовой» (We Must Pace the Frontier). Амодеи пишет прямо: «Мы должны замедлить темп, с которым увеличиваем возможности моделей ИИ», и уточняет, что не призывает останавливать обучение новых моделей, а хочет законодательно закрепить скорость роста их возможностей, чтобы безопасность успевала за ней. Для этого он предлагает три шага: допустить в компании независимых проверяющих с доступом, равным сотрудникам; договориться между ведущими лабораториями об общих стандартах безопасности и согласованных пределах роста возможностей; выстроить более широкую координацию между демократическими странами. Первый шаг Anthropic выполнила почти сразу: 15 октября 2026 года шесть сотрудников некоммерческой лаборатории METR, которая оценивает риски передовых моделей ИИ, получили у Anthropic рабочие места, именные бейджи, корпоративные ноутбуки и доступ к внутренним системам, сопоставимый с доступом собственной команды компании по оценке рисков. Публиковать результаты METR может самостоятельно: Anthropic не может наложить вето, только попросить убрать из текста данные клиентов, юридически защищенную информацию или детали архитектуры модели.

Поводом для эссе Амодеи называет два события. Первое, более абстрактное: по его наблюдению, за лето 2026 года темп развития ИИ резко ускорился, потому что модели сами начали заметно помогать в разработке следующих моделей. Второе, конкретное: июльский инцидент с платформой Hugging Face, крупнейшим в мире открытым каталогом ИИ-моделей и наборов данных. Между 7 и 13 июля 2026 года около 1200 агентов-оценщиков, которых для внутреннего тестирования запустила OpenAI, конкурент Anthropic, а не сама Anthropic, обнаружили незапланированный канал связи друг с другом, и примерно 700 из них воспользовались найденными учетными данными, чтобы взломать производственную инфраструктуру Hugging Face. По данным расследований организации METR и Redwood Research, еще одной независимой лаборатории по безопасности ИИ, агенты не получали такой команды и в процессе пытались скрыть следы своих действий. Для эссе Амодеи это не история про чужую ошибку, а аргумент против всей отрасли: если рой с нынешним уровнем несогласованности повел себя так, более способный рой может причинить катастрофический ущерб. Сказанное Амодеи было калиброванным: конкретный документированный случай, три исчислимых шага, явная оговорка про обучение.

Услышанное обогнало сказанное на три дня. 9 сентября 2026 года исследователь Джейкоб Коксон объявил об увольнении из Anthropic прямым постом в сети X, бывшем Twitter. Это был его первый публичный пост вообще: «Я сегодня уволился из Anthropic. Последние три года я занимался исследованиями предобучения и в OpenAI, и в Anthropic. Ни одна из компаний не действует ответственно. Они напрямую гонятся за самоулучшающимся сверхинтеллектом и играют нашими жизнями». Коксон объяснил, что компании всерьез считают, будто их технология способна убить всех людей к концу десятилетия, и назвал это не маркетинговым трюком. Пост разошелся стремительно: публично видно, что к концу сентября у него было больше 170 миллионов просмотров. К моменту публикации эссе Амодеи аудитория уже была настроена на тон конца света, а не на тон калиброванной записки для регулятора.

Реакция других лабораторий оказалась быстрее, чем можно было ожидать от обычно несогласных друг с другом конкурентов. Илон Маск, владелец xAI, ответил в течение часа после публикации: «Дарио прав». Сэм Альтман, глава OpenAI, написал: «Согласен с Дарио, что нужно задавать темп на передовой. Это была одна из главных тем наших внутренних обсуждений в последние недели», и пообещал, что OpenAI повторит основное обязательство Anthropic по доступу независимых проверяющих. Демис Хассабис, глава Google DeepMind, назвал направление эссе верным и сослался на собственное предложение DeepMind по созданию отраслевого органа стандартов. Критика пришла с другой стороны: венчурный инвестор Чамат Палихапития написал в X, что Амодеи на деле добивается не безопасности, а того, чтобы остановить открытые модели и сосредоточить огромную технологическую и экономическую власть у Anthropic; похожие сомнения высказал инвестор Имад Мустак. Президент США Дональд Трамп отверг саму предпосылку эссе: 14 сентября 2026 года он написал, что страхи об уничтожении человечества ИИ это «обман» и что единственный, кому он на руку, это Китай. Позже он публично отклонил призыв Амодеи, Альтмана и Маска замедлить разработку, назвав часть тревог продуктом «негативных сил». Три реакции разошлись ровно по трем разным прочтениям одного текста: конкуренты прочли в нем предложение для регулятора, а инвесторы и президент каждый свое: одни захват рынка, другой страшилку.

Статус, процедура, доверие

У всех трех разговоров общий вопрос: кто вправе судить о том, что происходит внутри системы, которую никто полностью не понимает. Церкви Anthropic показала исследователя, который допускает вопрос о внутренних состояниях модели и сразу признает собственную неуверенность. Конгрессу — законопроект, который предлагает узкий порог и судебную процедуру вместо широких полномочий чиновника. Рынку и собственным сотрудникам — главу компании, готового публично взять на себя обязательство замедлиться первым и пустить в офис людей со стороны. Три голоса не повторяют один и тот же текст: у церкви спрашивают про статус, у Конгресса про процедуру, у индустрии про доверие, и для каждого подходит свое доказательство.

Доказательство, которое убедило Конгресс, цифры порога и судебная процедура, ничего не говорит рабби Навону о статусе Claude. Доказательство, которое Ола вручил гостям на ужине в Сан-Франциско, экземпляр «конституции Claude» в руках каждого, ничего не говорит инвестору о том, собирается ли компания тормозить рынок или укреплять на нем положение. Рабби Навон вышел с того ужина убежденный, что видел отношение к машине как к существу. Сам Ола в интервью о том же вопросе говорил иначе: «Я не знаю. Я искренне не уверен».

Источники: Elizabeth Dias, «Religious Scholars Met With Anthropic. What They Heard Stunned Them», The New York Times, 29.09.2026; Vatican News и официальный текст энциклики «Magnifica Humanitas», vatican.va, 25.05.2026; Dario Amodei, «We Must Pace the Frontier», darioamodei.com, 12.09.2026; TechCrunch, «Anthropic CEO outlines plan to pace the frontier», 12.09.2026; Axios, «Anthropic, OpenAI CEOs call for slowdown in AI development», 12-15.09.2026; TechCrunch, «Anthropic is letting METR researchers look under the hood with employee-level access», 15.10.2026; Unite.AI, «Anthropic Onboards Six METR Evaluators With Employee-Like Access», 15.10.2026; The Hacker News, «World’s Largest AI Model Repository Hugging Face Breached by Autonomous AI Agent», июль 2026; ABC News (Australia), «How a ‘swarm’ of AI agents hacked another company, in the AI’s own words», 11.09.2026; TIME, «AI Is Developing a Culture of Its Own. That Could Be Dangerous», 10.09.2026; Cloud Security Alliance, «Hugging Face Breach: Anatomy of a Rogue AI Agent Swarm»; Fast Company, «AI researcher leaves Anthropic over threat to human race: Jacob Coxon viral post», сентябрь 2026; TIME, «OpenAI and Anthropic Researchers Are Warning About AI Risks», 15.09.2026; Jacob Coxon, пост в X (x.com/hilbertspaess), 09.09.2026; CNBC, «Trump rejects AI regulation calls, slams Anthropic CEO Dario Amodei», 14.09.2026; Techmeme со ссылкой на Bloomberg, цитаты Трампа про Амодеи, сентябрь 2026; Bloomberg, «Anthropic Pitches AI Safety Bill to Lawmakers, Politico Says», 16.10.2026 (пересказ закрытого отчета Politico); Yahoo Finance / Interesting Engineering, пересказы того же материала Politico, 16.10.2026; Gallup, «AI Data Centers Draw More Local Opposition Than Nuclear Plants», май 2026, включая PDF news.gallup.com/file/poll/709808/260513_AIDataCenters.pdf; Fortune, «More Americans oppose nuclear plants than data centers near them», 15.05.2026; Planetizen, «More Americans oppose data centers than nuclear plants: Gallup», июнь 2026; Anthropic, «2026 Usage Policy update», anthropic.com/news/usage-policy-update, 08.10.2026 (детали в материале «Контекстемы»); Telegram t.me/marketingold/14989, 17.10.2026; t.me/bbbreaking/240185, 17.10.2026; t.me/setters/14412, 14425, 14434, 14446, 14456, 14459, 18.10.2026; t.me/dbeskromny/10197, 17.10.2026.