Anthropic договаривается с Белым домом о новых правилах для AI-моделей

После блокировки двух самых мощных моделей Anthropic главным вопросом стало не само отключение, а то, кто и по каким критериям будет решать, когда AI-система опасна для рынка и безопасности.

Anthropic ведёт переговоры с администрацией США о создании стандартизированных правил оценки рисков безопасности передовых моделей искусственного интеллекта. Об этом пишет Business Insider со ссылкой на источники, знакомые с ходом обсуждений.

По данным издания, переговоры начались после конфликта вокруг моделей Fable 5 и Mythos 5. Ранее правительство США, ссылаясь на национальную безопасность, выдало экспортную директиву, которая требовала прекратить доступ к этим моделям для всех иностранных граждан — как за пределами США, так и внутри страны. Anthropic заявляла, что из-за этого была вынуждена отключить Fable 5 и Mythos 5 для всех пользователей.

Новый этап конфликта заключается в том, что компания и Белый дом теперь обсуждают не только возвращение доступа к моделям, но и сам механизм принятия таких решений. Речь идёт о критериях, показывающих, насколько серьёзной является уязвимость AI-модели, можно ли обойти её защитные ограничения и какие реальные последствия это может иметь.

По данным Business Insider, со стороны Anthropic в переговорах участвуют глава политического направления Сара Гек и сооснователь компании Том Браун. Со стороны администрации США к процессу привлечены министр торговли Говард Латник и национальный кибердиректор Шон Кернкросс.

Для технологического рынка это важный сигнал: передовые AI-модели постепенно переходят в категорию инфраструктурных и экспортных рисков. Если правительства смогут быстро ограничивать доступ к моделям по соображениям безопасности, бизнесу придётся учитывать не только цену и возможности AI-сервисов, но и политический риск их внезапного отключения.

Ситуация также показала, что формальные правила для самых мощных AI-систем в США пока не успевают за решениями властей. Wired пишет, что американское регулирование в этой сфере фактически формируется в реальном времени: правительство уже вмешивается в запуск моделей, но рынок до сих пор не имеет понятной и прозрачной процедуры, определяющей, когда именно модель необходимо ограничивать.

Если доступ к отдельным моделям может зависеть от решений правительства США, компаниям и государственным структурам придётся планировать резервные инструменты, проверять юрисдикционные риски и не строить критические процессы на одном поставщике.

Пока неизвестно, когда именно Anthropic сможет вернуть доступ к Fable 5 и Mythos 5 и станет ли нынешний конфликт основой для новых общих правил. Но сам факт переговоров означает, что рынок AI переходит от этапа быстрых запусков к этапу, где каждая мощная модель может получить собственную проверку безопасности.

По материалам: Business Insider, Anthropic, Wired