OpenAI призвала США ввести обязательные правила безопасности для передовых моделей ИИ

OpenAI призвала Конгресс США ввести обязательное национальное регулирование безопасности самых мощных систем искусственного интеллекта. Компания считает, что добровольных обязательств разработчиков уже недостаточно на фоне быстрого роста возможностей ИИ.

Об этом OpenAI заявила 9 сентября в новой позиции по государственной политике в сфере искусственного интеллекта.

Компания предлагает строить федеральные требования в зависимости от возможностей и уровня риска конкретной системы. Они должны касаться прежде всего небольшого количества крупных лабораторий, которые создают самые мощные модели, а не стартапов, небольших разработчиков или исследователей, не работающих на переднем крае технологии.

Среди ключевых элементов будущей системы OpenAI называет единые правила тестирования моделей, независимую оценку их безопасности, усиленные требования к киберзащите, обязательное уведомление о серьезных инцидентах и подготовку государства к рискам, связанным с появлением всё более автономных систем.

Отдельно компания призывает определить общие критерии, при которых разработку или внедрение особо мощных моделей необходимо будет замедлить или остановить. OpenAI заявила, что если необходимого уровня безопасности невозможно достичь без замедления роста возможностей ИИ, приоритет должен отдаваться безопасности.

Компания также предостерегла от преждевременной гонки к полностью автономному самосовершенствованию ИИ, при которой системы самостоятельно будут создавать всё более мощные поколения моделей. В OpenAI подчеркивают, что такого процесса сегодня ещё нет и его не следует запускать до тех пор, пока не будет доказана его безопасность.

Пока федеральные правила не приняты, OpenAI решила поддержать четыре законопроекта Калифорнии. SB 813 создает систему отбора независимых организаций для оценки рисков ИИ, а AB 1405 устанавливает требования к регистрации, независимости и ответственности аудиторов искусственного интеллекта.

Ещё один законопроект, SB 1119, предусматривает проверку возраста пользователей, оценку рисков, независимые аудиты, родительский контроль и дополнительную защиту детей и подростков, пользующихся ИИ-чатами. AB 1864 должен усилить защиту от биологических угроз, которые могут возникать с помощью ИИ, в частности через контроль поставщиков оборудования и услуг для синтеза генов.

OpenAI отметила, что ранее не поддерживала часть этих инициатив, однако пересмотрела свою позицию после недавнего резкого роста возможностей ИИ-систем.

При этом компания выступает и за создание добровольных отраслевых стандартов между ведущими ИИ-лабораториями. В OpenAI подчеркивают, что такие договоренности могут дополнять, но не заменять обязательные федеральные требования и государственный надзор.

По материалам: OpenAI