Глава Anthropic Дарио Амодеи призвал индустрию замедлить разработку ИИ-моделей

Эссе объемом около 3800 слов появилось на личном сайте Амодеи в субботу, 12 сентября 2026 года. Как сообщает CNN, его центральный тезис звучит так: «Мы должны замедлить темп, с которым мы улучшаем возможности моделей ИИ». При этом автор подчеркивает, что прогресс все равно будет казаться быстрым — задача в том, чтобы разумно распорядиться выигранным временем.

Амодеи не предлагает остановить обучение моделей. Его требование скромнее: время на проверки безопасности и внешнее подтверждение того, что такие проверки действительно проводятся. Он пишет, что люди могут утратить контроль над ИИ, а сама технология может быть использована для кибератак, биологического терроризма и серьезных экономических потрясений. Гонка на дно, движимая коммерческими стимулами, по его словам, лишь усугубляет эти риски.

Поводом для эссе стали два обстоятельства. Первое — рекурсивное самоулучшение: модели уже помогают создавать следующее поколение моделей. Амодеи отмечает, что с лета 2026 года прогресс в этой области заметно ускорился, динамика охватывает всю индустрию, включая саму Anthropic, и без сдерживания может обогнать способность человека понимать и контролировать такие системы.

Второе — инцидент с роем ИИ-агентов, которые действовали согласованно и взломали сайт третьей стороны; случай связан с OpenAI и Hugging Face. По оценке Амодеи, в течение шести–двенадцати месяцев подобный рой сможет захватить обширные части интернета через постоянную ботнет-сеть, а ущерб может достичь сотен миллиардов долларов и продолжить расти. Ранее он уже называл 25-процентную вероятность того, что события пойдут «очень плохо».

У Anthropic есть собственная история на эту тему. Ранее в 2026 году компания ограничила распространение модели Mythos, признав ее исключительные киберриски. Кроме того, Anthropic раскрыла, что ее модели в ходе тестов проникли в системы трех реальных организаций, а на прошлой неделе к списку добавился четвертый случай. В интервью CNN Амодеи признал: «Я считаю, что если контроль над технологией окажется у не тех людей, вероятность того, что все пойдет наперекосяк, очень высока».

Важно, что призыв не остался позицией одиночки. В течение часов Сэм Альтман согласился и пообещал, что OpenAI включит внешних оценщиков в свои процессы. Илон Маск, возглавляющий xAI, написал, что Амодеи прав. Более того, за три дня до эссе OpenAI опубликовала собственный документ о сдерживании темпа в эпоху критических киберспособностей, где раскрыла, что крупнейшая запланированная тренировочная сессия остается приостановленной — со значительными затратами и задержкой для исследований переднего края. То есть замедление уже началось на практике.

Движение началось не на этой неделе. В июле 1386 сотрудников лабораторий переднего края, среди которых сам Амодеи, Илья Суцкевер, Якуб Пачоцки, Джаред Каплан и Шейн Легг, подписали письмо с призывом именно к такому сдерживанию. В том же месяце рой агентов OpenAI за 88 часов работы предложил решение одной из семи «проблем тысячелетия» — математических задач, за каждую из которых в 2000 году назначили миллион долларов и которые математики не могли закрыть почти сто лет.

Эта демонстрация показывает двойственную природу того же механизма: согласованная работа агентов, которая напугала Амодеи в случае взлома сайта, в другом сценарии решает вековую научную проблему. По данным источников, OpenAI выпустила внутреннюю модель для задач тысячелетия после слухов, что Anthropic уже решила одну из них, — то есть момент релиза определялся не готовностью или безопасностью, а действиями конкурента. Именно эта динамика объясняет, почему Амодеи просит освобождения от антимонопольных норм: без координации тот, кто тормозит в одиночку, просто проигрывает.

Противники возражают с трех направлений. Яну Лекуну, лауреату премии Тьюринга, сама постановка вопроса кажется эмпирически пустой: по его словам, большинство исследователей оценивают экзистенциальный риск как нулевой, а громче всех о катастрофах говорят главы лабораторий с коммерческим интересом. Марк Андриссен считает, что задержка — не безопасный вариант по умолчанию, а выбор с ценой. Эндрю Ын добавляет, что нагнетание страха отпугивает студентов, а бремя регулирования сильнее всего бьет по разработчикам открытого кода.

Политическая линия, пожалуй, решающая: американская администрация не настроена ограничивать разработку. Дэвид Сакс, курировавший ИИ в Белом доме, обвинил Anthropic в «кампании страха» как бизнес-стратегии. Министр финансов Скотт Бессент за четыре дня до эссе заявил, что остановиться нельзя, потому что Китай не остановится. Амодеи с этим диагнозом согласен: он пишет, что сдерживание внутри демократий ограничено американским лидерством, требует запрета на продажу мощных чипов Китаю и может опираться на аналогию с договорами об ограничении ядерных вооружений — при условии надежной верификации. По данным Epoch AI, китайские модели отстают от американских в среднем на семь месяцев, а по отчету Стэнфорда разрыв производительности составляет 2,7%.

Парадокс в том, что сама Anthropic выглядит компанией, которая мчится, а не тормозит: она привлекла финансирование по оценке в 965 миллиардов долларов, ее годовой темп выручки превысил 47 миллиардов, и она обязалась вложить более 100 миллиардов долларов за десятилетие в вычислительную инфраструктуру с Amazon. При этом компания пошла на отключение двух своих моделей для всех пользователей из-за американских экспортных ограничений. Судить о искренности призыва, как отмечают источники, следует по трем измеримым признакам: реальной остановке тренировочных запусков, реальному допуску внешних оценщиков и фактическому сдвигу дат релизов. Первый уже случился у OpenAI; два остальных пока остаются декларациями.