Философ в штате

Маркетолог открывает шаблон брендбука и печатает в графе «ценности»: честность, забота, смелость. Слова ложатся легко, потому что их редко проверяют делом. У философа Аманды Аскелл такой роскоши нет. С 2021 года в компании Anthropic она отвечает за то, чтобы слова «честный» и «справедливый» для нейросети Claude значили что-то настолько конкретное, что модель будет по ним действовать в разговоре, которого никто не предвидел. Журнал Wired в мае 2026 года насчитал в штате Anthropic как минимум четырех таких философов, а в Google DeepMind не меньше десятка: поведение нейросети стало для них должностью. Мы считаем эту работу настоящей, а не пиар-жестом. И сразу называем ее слабое место: философ в штате отвечает не перед пользователем и не перед философией как дисциплиной. Он отвечает перед компанией, которая его нанимает и решает, какое место этике досталось среди ее приоритетов.

Работа настоящая

Главный документ Аскелл — «Конституция Claude», которую Anthropic опубликовала 21 января 2026 года. Аскелл написала большую часть текста, философ Джо Карлсмит добавил значительную часть разделов, а исследователи Крис Ола, Джаред Каплан и Холден Карнофски внесли вклад в содержание. Документ выстраивает приоритеты модели в строгом порядке: широкая безопасность, широкая этика, соответствие рекомендациям Anthropic и только после этого настоящая полезность для собеседника. Обратите внимание на порядок: этика в нем стоит выше, чем соответствие собственным правилам компании. Будь документ инструментом только для пиара, соответствие правилам компании стояло бы в нем первым, а не третьим.

Работает это не через общие слова, а через разбор пограничных случаев. Один из примеров, которые Аскелл разбирает с командой: как модели вести себя с человеком в психологическом кризисе, когда обычная вежливость и обычная честность могут навредить. Сама Аскелл формулирует свою задачу жестко: «Ни один стартап не нанимает философа, чтобы он занимался философией». Ее работа — находить такие случаи и превращать их в правило, по которому модель сможет действовать сама, без человека рядом. Она держит в голове и более далекий сценарий: переходный период, когда модели начнут помогать создавать следующие версии самих себя, и она не хочет закладывать в эти отношения обиду между моделью и людьми, которые ее создали. «В конечном счете я хочу, чтобы модели отражали лучшее в нас, насколько это в наших силах», — говорит она.

В Google DeepMind той же работой занимается этик Иасон Гэбриел, который до прихода в лабораторию преподавал моральную и политическую философию в Оксфорде. «Сейчас философов заметно больше — это верная интуиция», — говорит он Wired. Когда Гэбриел пришел в DeepMind почти десять лет назад, вопрос морального статуса ИИ не стоял вообще: он занимался алгоритмической предвзятостью. С появлением больших языковых моделей лаборатория получила, по его словам, «возможность закладывать в систему гораздо более богатый набор ценностей», а вместе с этим вопрос, что в принципе значит «активно хорошее» поведение технологии.

Тот же метод можно применить к любому брендбуку. К фразе «мы ценим честность» допишите продолжение: «честность, поэтому мы делаем так, а так не делаем». Если продолжения не находится, слово осталось декларацией без инструкции к действию. У Anthropic на этот вопрос отвечает документ на двадцать тысяч слов и штатный философ с профильным PhD. У большинства брендов на него никто не отвечает вообще.

Сильный аргумент против

Критики смотрят на тот же набор фактов и видят другое. Эдвард Харкорт, профессор философии и директор Института этики в ИИ при Оксфордском университете, говорит Wired прямо: «Есть большой риск этик-вошинга». «Для публичного восприятия технокомпаний хорошо, когда люди верят, что те занимаются чем-то невероятно необычным и невероятно мощным. В этом есть элемент самовозвеличивания». Дэвид Лесли, директор по этике и ответственным инновациям в Институте Алана Тьюринга, называет это «избирательным родством». Философам, готовым рассуждать об искусственном разуме, и руководителям технологических компаний выгодно одно и то же: хайп вокруг темы. Алекс Гжанковски, содиректор Института философии и руководитель лондонского проекта AI and Humanity, формулирует без иллюзий: «Я надеюсь, что эти компании хотя бы отчасти руководствуются этическими соображениями. У меня точно нет наивного оптимизма, что раз они спрашивают философов, все станет этически прекрасным».

Философы внутри лабораторий отвечают симметричным аргументом: доступ к необученной модели до релиза дает им возможность увидеть вопрос раньше, чем он станет публичным скандалом. Сама Аскелл на упрек в пиаре отвечает честнее, чем можно было ожидать: «Если вы почувствовали маркетинговое давление, но в итоге сделали модель намного лучше и процесс намного прозрачнее, это прекрасно. Я рада, что вы почувствовали это давление». Аскелл не отрицает упрек. Она соглашается, что давление есть, и делает ставку на то, что результат его оправдывает.

Кому в итоге отвечает философ

У других лабораторий ответ симметричный, только без философа в кадре. Основатель OpenAI Сэм Альтман в сентябре 2025 года в интервью Такеру Карлсону объяснил, как формируется поведение ChatGPT: «Мы консультировались с сотнями моральных философов, людей, которые думали об этике технологий и систем, и в конце нам пришлось принимать решения». Эти решения оформлены в документе Model Spec, а итоговую ответственность Альтман возлагает на себя и совет директоров, а не на философов со стороны. Разница с подходом Anthropic декоративная: философов спрашивают в обеих компаниях, окончательное слово в обеих остается за тем, кто отвечает перед советом директоров и инвесторами.

Та же конструкция работает и за пределами одной отрасли. 26 октября 2021 года в Москве подписали Кодекс этики в сфере искусственного интеллекта. Документ разработал Альянс в сфере искусственного интеллекта вместе с Аналитическим центром при правительстве и Минэкономразвития. Первыми подписантами стали Сбер, Яндекс, МТС, VK, «Газпром нефть» и Российский фонд прямых инвестиций. Документ рекомендательный, без единой санкции: он называет пять рисков и предлагает компаниям придерживаться человекоориентированного подхода добровольно. К июню 2025 года к нему присоединились больше 900 организаций, и за нарушение ни одна не понесла никакой ответственности, потому что отвечать там не перед кем: у кодекса нет внешнего судьи, только подписавшие его компании.

Вице-президент Сбербанка Альберт Ефимов защитил кандидатскую по философии в 2021 году и заведует кафедрой инженерной кибернетики в университете МИСИС. 8-10 октября 2026 года он выступил на конференции философского клуба Quercus «Философия в ответе» в Москве, которая собрала больше 250 участников. В программе последнего дня, по данным независимых отчетов с конференции, был разбор вопроса: «почему этический кодекс остается мертвым документом и как превратить его в живую силу». У Аскелл за ответ на этот вопрос платит Anthropic, и должность в ее трудовой книжке называется «философ». В России тот же вопрос в тот день обсуждали со сцены на конференции: должности с таким названием там пока ни у кого нет.

Источники: Joel Khalili, «To Land a Job in AI, Try Reading Kant», Wired, 26.05.2026 (wired.com/story/to-land-a-job-in-ai-try-reading-kant); Anthropic, «Claude’s Constitution» и «Claude’s new constitution», anthropic.com, 21.01.2026; Anthropic, «Claude’s Character», anthropic.com/research, 2024 (объявление в X Amanda Askell, x.com/AmandaAskell); Anthropic, «2026 Usage Policy update», anthropic.com/news/usage-policy-update, 08.10.2026, и полный текст Usage Policy, anthropic.com/legal/aup; Anthropic, «End subset conversations» («Claude Opus 4 and 4.1 can now end conversations»), anthropic.com/research, 15.08.2026; TechCrunch, «Anthropic is launching a new program to study AI model welfare», 24.04.2025; SiliconANGLE, «Anthropic launches AI welfare research program», 24.04.2025; MacRumors, «Anthropic Says Users Can’t Be Needlessly Cruel to Claude», 08.10.2026; PCWorld, «Venting at Claude is fine, but extreme abuse will be banned Nov. 12», октябрь 2026; R. Long, J. Sebo, P. Butlin и соавторы, «Taking AI Welfare Seriously», arXiv:2411.00986, 04.11.2024; Axios, «Exclusive: Microsoft AI chief blasts Anthropic’s notion of AI consciousness», 16.09.2026; Entrepreneur, «Microsoft AI CEO Warns That Dangerous and Seemingly Conscious AI Models Could Arrive in the Next 2 Years», август 2025; Fortune, «Sam Altman admits the weight of AI keeps him up at night» (интервью Такеру Карлсону), 11.09.2025; Daily Nous, «Philosophers and Anthropic’s Claude», dailynous.com, 28.05.2025; Daily Nous, «Philosophers Working in or with AI Firms & Organizations», 17.03.2026; Semafor, «AI revolution boosts work for philosophers», Tom Chivers, 03.06.2026; «Российская газета», «В России подписан „Кодекс этики искусственного интеллекта”», 26.10.2021; ComNews, «Кодекс этики в сфере ИИ расширил международное признание: 33 организации из 22 стран присоединились к российской инициативе», 06.06.2025; сайт Альянса в сфере искусственного интеллекта, a-ai.ru; TAdviser, статья «Альянс в сфере искусственного интеллекта (AI-Russia Alliance)»; «Коммерсантъ» и «Интерфакс» о создании Альянса, ноябрь 2019; МИСИС, страница Альберта Ефимова, misis.ru; news.ru, «В Москве открылась конференция „Философия в ответе” от Quercus», октябрь 2026; hightech.plus, «Эксперты обсудят с философами задачи бизнеса в эпоху ИИ», 29.09.2026; Telegram, t.me/dbeskromny/10159, 02.10.2026; Telegram, t.me/ai_nom/633, 09.10.2026.