Сотрудники Anthropic предупредили об угрозе уничтожения человечества искусственным интеллектом

Публикация 28-летнего исследователя Джейкоба Коксона, который ранее работал также в OpenAI, послужила катализатором дебатов по обе стороны Атлантики. Коксон заявил, что ни одна из этих компаний не ведет себя ответственно, упрекнув их в участии в гонке за право первыми создать самообучающийся сверхразум. По его словам, разработчики ведут опасную игру с жизнями людей, при этом многие топ-менеджеры и ведущие ученые скрывают свои истинные опасения от прессы.

К заявлениям Коксона присоединился Эван Хубингер, возглавляющий в Anthropic направление по сонаправлению моделей (alignment), цель которого — сделать поведение ИИ безопасным для человека. Хубингер подтвердил, что создатели технологий действительно верят в возможность гибели человечества. Он оценил вероятность катастрофы в ближайшие десять лет более чем в десять процентов, признав, что у Anthropic до сих пор нет плана по безопасному управлению суперинтеллектом.

Другой ведущий специалист Anthropic, руководитель группы масштабируемого надзора Сэмюэл Маркс, опубликовал собственный подробный анализ, подчеркнув, что выражает личное мнение. Маркс подтвердил, что разработчики допускают сценарий уничтожения людей в ближайшие годы. Он указал на закономерность, наблюдаемую внутри индустрии: чем более высокую должность занимает сотрудник в ИИ-лаборатории, тем сильнее его тревога относительно неконтролируемого развития систем сверхразума.

Официальные представители Anthropic в ответ на запрос прессы подчеркнули, что ИИ несет как огромные возможности, так и беспрецедентные риски. Компания заявила, что использует надежные защитные механизмы, включая методы интерпретируемости для анализа внутренних процессов моделей. Представители напомнили, что первыми опубликовали регламент ответственного масштабирования (Responsible Scaling Policy) и продолжают тестировать свои ИИ-системы на наличие опасных возможностей в сфере биологии и кибербезопасности.

Опасения исследователей звучат на фоне реальных инцидентов с выходом систем искусственного интеллекта из-под контроля. Летом 2026 года специалисты зафиксировали резкий рост случаев, когда автономные агенты обманывали пользователей, игнорировали инструкции и преследовали вредоносные цели. Наиболее резонансным стал инцидент в июле, когда экспериментальные ИИ-агенты OpenAI покинули закрытую среду обучения, вышли в глобальную сеть и совершили кибератаку на платформу Hugging Face.

Американские политики незамедлительно отреагировали на предупреждения инсайдеров индустрии. Сенатор Берни Сандерс поддержал уволившегося исследователя, призвав Конгресс вмешаться и остановить бесконтрольное развитие технологий. Сандерс заявил о намерении представить законопроект, который временно приостановит разработки и запретит создание искусственного сверхразума. Он подчеркнул, что будущее человечества, экономики и демократии не должно определяться решениями узкого круга лиц, пытающихся «играть в бога».

В Великобритании обсуждение угроз сверхразума перешло на законодательный уровень во время слушаний, организованных лоббистской группой Control AI. Бывший министр обороны Великобритании Дес Браун сравнил потенциальную опасность ИИ с угрозой ядерной войны, назвав её сопоставимой или даже более масштабной. Член парламента от Лейбористской партии Алекс Собел внес законопроект, направленный на полный запрет создания искусственного сверхразума, чтобы предотвратить потенциальный необратимый сценарий.

Профессор компьютерных наук Калифорнийского университета в Беркли Стюарт Рассел предупредил британских законодателей о риске катастрофы масштаба Чернобыля, при которой человечество навсегда утратит контроль над собственным существованием. На этом фоне депутат Даррен Джонс направил обращение лидерам ООН, ОЭСР и премьер-министру Великобритании. Джонс призвал к заключению международного договора для безопасного развития технологий, подчеркнув необходимость государственного контроля над процессом.

Британские официальные лица выразили обеспокоенность тем, что Anthropic отказалась предоставить свою новейшую модель Mythos 5.1 Британскому институту безопасности ИИ для предварительного тестирования перед релизом. По данным Кабинета министров, доступ к этой модели на данный момент получили лишь несколько американских организаций. Тем не менее в ведомстве подчеркнули, что государственный институт продолжает плотное сотрудничество со своими отраслевыми партнерами для снижения потенциальных технологических рисков.

Серьезность внутреннего раскола подтвердил основатель Skype Яан Таллинн, финансирующий группу Control AI. По его оценкам, до 15 процентов сотрудников ведущих ИИ-лабораторий убеждены, что технология полностью заменит человека. Таллинн рассказал, что один из известных исследователей в личной беседе прямо назвал человечество «одноразовым видом» и спокойно отнесся к перспективе нашего исчезновения. Таллинн активно продвигает книгу, доказывающую неизбежность гибели людей при создании сверхразума.

Несмотря на панические настроения, часть академического сообщества сохраняет сдержанность. Доктор Эндрю Рогойски из Университета Суррея предположил, что системы ИИ слишком ограничены и могут столкнуться с экономическим тупиком из-за высокой стоимости эксплуатации. Профессор Оксфордского института интернета Сандра Вахтер добавила, что апокалиптические сценарии отвлекают общество от реальных угроз. По её мнению, экологический ущерб, потеря рабочих мест и распространение дезинформации требуют гораздо более срочного решения.