Исследователь Anthropic уволился из-за опасений по поводу неконтролируемого ИИ
Исследователь искусственного интеллекта Джейкоб Коксон уволился из Anthropic, обвинив компанию и OpenAI в безответственной гонке к созданию самосовершенствующегося суперинтеллекта. После его заявления руководитель направления alignment science в Anthropic Эван Хубингер заявил, что лично оценивает вероятность сценария, при котором ИИ может уничтожить человечество в течение следующего десятилетия, более чем в 10%.
Коксон сообщил об увольнении в серии постов в X. По его словам, последние три года он занимался исследованиями предварительного обучения ИИ-моделей сначала в OpenAI, а затем в Anthropic.
Исследователь заявил, что ни одна из двух компаний, по его мнению, сейчас не действует достаточно ответственно.
"Они наперегонки движутся прямо к самосовершенствующемуся суперинтеллекту и играют нашими жизнями", - написал Коксон.
Он считает, что в ближайшие годы ИИ-системы могут превзойти людей в ряде критических сфер, в частности в кибербезопасности и научных исследованиях, а рост их возможностей не демонстрирует признаков замедления.
В Anthropic назвали риск более чем в 10%
Заявление Коксона получило публичную поддержку от Эвана Хубингера, который возглавляет в Anthropic направление alignment science - исследование методов согласования поведения высокоразвитых ИИ-систем с целями и интересами людей.
Хубингер заявил, что Коксон прав относительно того, насколько серьезно часть специалистов внутри отрасли воспринимает экзистенциальные риски ИИ.
По словам Хубингера, его личная оценка вероятности того, что ИИ может привести к гибели всех людей в течение следующего десятилетия, превышает 10%. Он также признал, что Anthropic пока не имеет готового способа решить проблему безопасного согласования суперинтеллекта и компания не находится на очевидном пути к ее решению.
Это именно личная оценка Хубингера, а не официальный прогноз Anthropic.
Коксон обвинил лаборатории в гонке
Коксон утверждает, что ситуация в OpenAI и Anthropic отличается. По его мнению, многие сотрудники OpenAI не полностью осознали потенциальные цивилизационные последствия развития технологии.
В Anthropic, по его словам, риски понимают значительно лучше, однако компания оказалась в конкурентной гонке: ее сотрудники опасаются, что если Anthropic замедлится, более мощный ИИ первой создаст другая лаборатория, которая будет вести себя менее ответственно.
Коксон назвал такой подход слишком рискованным и заявил, что решения о переходе к созданию суперинтеллекта не должны фактически приниматься внутри частных технологических компаний.
Он призвал к большей координации между американскими ИИ-лабораториями и допустил, что для избежания глобальной гонки могут понадобиться жесткие меры, включая временное ограничение дальнейшего наращивания возможностей моделей.
Anthropic сама признает риск потери контроля
Опасения относительно рекурсивного самосовершенствования не ограничиваются заявлениями отдельных сотрудников. В собственном исследовании Anthropic ранее отмечала, что все большую часть разработки ИИ уже выполняют сами ИИ-системы. Компания допускает сценарий, при котором система однажды сможет автономно проектировать и создавать своего преемника.
Anthropic подчеркивает, что полного рекурсивного самосовершенствования сегодня еще не существует и его появление не является неизбежным. В то же время компания прямо признает, что такой технологический скачок может увеличить риск потери людьми контроля над ИИ-системами.
По внутренним данным Anthropic, ИИ уже существенно ускорил разработку самой технологии. По состоянию на май 2026 года более 80% кода, который добавлялся в кодовую базу компании, был написан Claude. Компания также сообщала, что ее инженеры теперь создают в несколько раз больше кода, чем до широкого внедрения ИИ-агентов.
На запросы CNBC по поводу заявлений Коксона и Хубингера Anthropic и OpenAI сразу не ответили.
По материалам: Jacob Coxon, CNBC, Anthropic
