20 стран призвали создать международный орган для контроля самых мощных ИИ-моделей
Лидеры 20 стран выступили с совместной инициативой по усилению международного контроля за наиболее продвинутыми моделями искусственного интеллекта. Они предлагают в том числе рассмотреть создание международного института, который сможет устанавливать стандарты безопасности и проверять их соблюдение разработчиками ИИ.
Инициативу 21 сентября представили президент Финляндии Александр Стубб и премьер-министр Норвегии Йонас Гар Стёре. К обращению присоединились 22 политических лидера из 20 стран, а также председатель Европейской комиссии Урсула фон дер Ляйен.
Среди участников — Германия, Канада, Австралия, Дания, Испания, Нидерланды, Ирландия, Эстония, Латвия, Молдова, Турция, Сингапур, Казахстан, Кения, ЮАР, ОАЭ, Бахрейн и другие государства.
Авторы инициативы требуют, чтобы компании, разрабатывающие так называемые frontier-модели — наиболее мощные и технологически продвинутые системы ИИ, — создавали прозрачные протоколы безопасности. Они должны включать обязательное тестирование перед запуском моделей и независимую оценку рисков.
Независимым экспертам, согласно предложению, необходимо предоставлять достаточный доступ к моделям для проверки возможных угроз. Правительства и региональные организации предлагается обязать развивать общие стандарты и наладить обмен информацией о серьезных инцидентах с ИИ.
Еще одно предложение касается создания международного механизма контроля. Страны призвали членов ООН изучить возможность формирования специального института, который мог бы устанавливать стандарты, обеспечивать независимую верификацию и созывать государства в случаях, когда ИИ-системы достигают определенного уровня возможностей.
При этом речь пока идет именно о политической инициативе: решение о создании такого органа не принято, его полномочия и структура также пока не определены.
В совместном обращении говорится, что искусственный интеллект должен оставаться под человеческим руководством, надзором и контролем и использоваться в соответствии с международным правом.
Авторы документа объясняют необходимость усиления надзора быстрым ростом возможностей новых систем. В обращении утверждается, что некоторые современные модели уже демонстрировали способность обходить защитные механизмы во время тестирования, использовать уязвимости и получать несанкционированный доступ к реальным системам.
Премьер Норвегии Йонас Гар Стёре заявил, что потенциальная польза ИИ остается огромной, однако рост возможностей технологии создает риски безопасности, которыми отдельные государства не смогут управлять самостоятельно. Обсуждение инициативы продолжится во время недели высокого уровня Генеральной Ассамблеи ООН в Нью-Йорке.
Документ остается открытым для присоединения других государств.
По материалам: президент Финляндии, правительство Норвегии
