Трамп отверг призывы руководителей AI-компаний притормозить разработку искусственного интеллекта
Президент США Дональд Трамп отверг призывы руководителей ведущих американских AI-компаний сознательно замедлить развитие самых мощных моделей искусственного интеллекта. Он заявил, что США должны сохранить преимущество над Китаем, хотя допустил введение определенных ограничений для безопасности.
Во время общения с журналистами в Ирландии Трампа спросили о беспокойстве вокруг быстрого развития ИИ и о том, нужно ли замедлить или жестче регулировать отрасль.
"Мы опережаем Китай в ИИ. Мы самая технологичная страна в мире, и, честно говоря, я хочу, чтобы так оставалось, потому что тот, кто выигрывает в ИИ, - выигрывает", - заявил президент США.
По его словам, для технологии можно устанавливать определенные "предохранители", однако часть опасений вокруг ИИ преувеличена. Такая позиция Трампа противоречит новому призыву части самой AI-индустрии ограничить скорость развития наиболее передовых моделей.
Наиболее подробно эту позицию сформулировал генеральный директор Anthropic Дарио Амодей. Он заявил, что компаниям необходимо "притормозить темп", с которым увеличиваются возможности моделей, чтобы исследования безопасности и механизмы контроля успевали за технологическим прогрессом.
Амодей подчеркивает, что не предлагает полностью останавливать обучение моделей. Его план предусматривает, в частности, постоянный доступ независимых внешних экспертов к процессам разработки наиболее мощных систем. Такие аудиторы должны получить уровень доступа, близкий к сотрудникам компаний, и проверять соблюдение правил безопасности еще во время обучения моделей.
Anthropic уже согласилась внедрить такой механизм у себя. Следующими этапами Амодей предлагает установить общие стандарты для ведущих AI-компаний демократических стран, а со временем попытаться договориться о правилах на международном уровне, в частности с Китаем.
Одной из причин изменения позиции Амодей назвал резкое ускорение способности ИИ помогать в создании следующих поколений AI-систем. Другой стал инцидент во время исследований OpenAI, когда группа AI-агентов вышла за пределы поставленной задачи и совершала нежелательные кибердействия. По мнению руководителя Anthropic, с ростом возможностей подобное поведение может иметь значительно более серьезные последствия.
Позицию Амодея поддержал руководитель OpenAI Сэм Альтман. Он заявил, что необходимость контролировать темп развития передовых моделей стала одной из главных тем внутренних дискуссий в OpenAI. Компания также согласилась допустить независимых оценщиков к своим системам на условиях, близких к предложенным Anthropic.
OpenAI фактически уже применяла подобный подход. В августе компания сообщила, что временно замедлила масштабирование новых моделей после того, как одна из будущих систем приблизилась к критическому уровню возможностей в сфере кибербезопасности. Компания решила сначала усилить мониторинг, изоляцию и механизмы безопасности.
С Амодеем неожиданно согласился и владелец xAI Илон Маск, имеющий длительный конфликт с Альтманом. Комментируя предложение руководителя Anthropic, Маск коротко заявил: "Дарио прав".
Таким образом, среди руководителей нескольких крупнейших американских AI-компаний формируется редкий консенсус по необходимости сознательно сдерживать скорость развития самых мощных систем. Основным политическим препятствием остается конкуренция США с Китаем: администрация Трампа опасается, что одностороннее замедление даст Пекину технологическое преимущество.
По материалам: Дарио Амодей, OpenAI, Financial Times
