OpenAI, Anthropic и Google обсуждают создание общего органа по безопасности ИИ
OpenAI, Anthropic и Google ведут переговоры о создании отраслевой организации, которая могла бы установить единые стандарты тестирования и аудита наиболее мощных моделей искусственного интеллекта. Рабочая группа представителей трех компаний регулярно встречается как минимум с июля.
Об этом сообщает The Information со ссылкой на источники, знакомые с обсуждениями.
Переговоры продолжаются уже несколько месяцев, причем последняя из известных встреч состоялась на прошлой неделе. Пока компании не объявляли о создании организации официально, а ее окончательная структура, полномочия и правила работы еще не определены.
Основная идея заключается в том, чтобы крупнейшие разработчики ИИ согласовали общие требования к проверке наиболее продвинутых моделей. Речь идет прежде всего о тестировании их возможностей и рисков, независимой оценке безопасности и аудите перед выпуском новых систем.
Глава OpenAI Сэм Альтман на недавнем общем собрании сотрудников компании поддержал создание организации по тестированию и аудиту ИИ. При этом, по данным The Information, он считает, что крупнейшим лабораториям, вероятно, придется создавать такой механизм самостоятельно, без поддержки правительства США.
Публично за более тесную координацию разработчиков также выступил глава Anthropic Дарио Амодей. Он предложил компаниям согласовать добровольные стандарты безопасности еще до появления полноценного государственного регулирования.
Переговоры между OpenAI, Anthropic и Google начались еще до этого заявления. Рабочая группа, в которую входят представители компаний ниже уровня генеральных директоров, собирается с июля.
Одним из возможных ориентиров для нового органа рассматривается модель FINRA — американской саморегулируемой организации финансовой отрасли, которая контролирует брокеров и устанавливает для них обязательные стандарты. Подобную концепцию ранее предлагали и представители Google DeepMind.
В Белом доме также рассматривалась идея создания структуры для саморегулирования индустрии ИИ. Однако, по данным The Information, подготовленный проект соответствующего указа застопорился летом из-за отсутствия достаточной поддержки внутри администрации Дональда Трампа.
При этом внутри технологической отрасли единого мнения нет. Часть компаний и руководителей опасается, что созданные крупнейшими разработчиками правила могут усложнить конкуренцию для небольших игроков. Окончательного отраслевого соглашения пока также нет.
OpenAI, Google, Anthropic и другие крупные разработчики уже сотрудничают через Frontier Model Forum, созданный для исследований в области безопасности передовых моделей ИИ. Однако новый проект предполагает более конкретную систему общих стандартов тестирования и контроля.
По материалам: The Information, Quartz, PYMNTS
