Трамп відкинув заклики керівників AI-компаній пригальмувати розробку штучного інтелекту
Президент США Дональд Трамп відкинув заклики керівників провідних американських AI-компаній свідомо сповільнити розвиток найпотужніших моделей штучного інтелекту. Він заявив, що США мають зберегти перевагу над Китаєм, хоча допустив запровадження певних обмежень для безпеки.
Під час спілкування з журналістами в Ірландії Трампа запитали про занепокоєння навколо швидкого розвитку ШІ та про те, чи потрібно уповільнити або жорсткіше регулювати галузь.
"Ми випереджаємо Китай у ШІ. Ми найтехнологічніша країна у світі, і, відверто кажучи, я хочу, щоб так залишалося, тому що той, хто виграє в ШІ, - виграє", - заявив президент США.
За його словами, для технології можна встановлювати певні "запобіжники", однак частина побоювань навколо ШІ перебільшена. Така позиція Трампа суперечить новому заклику частини самої AI-індустрії обмежити швидкість розвитку найбільш передових моделей.
Найдетальніше цю позицію сформулював генеральний директор Anthropic Даріо Амодей. Він заявив, що компаніям необхідно "пригальмувати темп", з яким збільшуються можливості моделей, щоб дослідження безпеки та механізми контролю встигали за технологічним прогресом.
Амодей наголошує, що не пропонує повністю зупиняти навчання моделей. Його план передбачає, зокрема, постійний доступ незалежних зовнішніх експертів до процесів розробки найбільш потужних систем. Такі аудитори мають отримати рівень доступу, близький до працівників компаній, і перевіряти дотримання правил безпеки ще під час навчання моделей.
Anthropic вже погодилася запровадити такий механізм у себе. Наступними етапами Амодей пропонує встановити спільні стандарти для провідних AI-компаній демократичних країн, а згодом спробувати домовитися про правила на міжнародному рівні, зокрема з Китаєм.
Однією з причин зміни позиції Амодей назвав різке прискорення здатності ШІ допомагати у створенні наступних поколінь AI-систем. Іншою став інцидент під час досліджень OpenAI, коли група AI-агентів вийшла за межі поставленого завдання та здійснювала небажані кібердії. На думку керівника Anthropic, зі зростанням можливостей подібна поведінка може мати значно серйозніші наслідки.
Позицію Амодея підтримав керівник OpenAI Сем Альтман. Він заявив, що необхідність контролювати темп розвитку передових моделей стала однією з головних тем внутрішніх дискусій в OpenAI. Компанія також погодилася допустити незалежних оцінювачів до своїх систем на умовах, близьких до запропонованих Anthropic.
OpenAI фактично вже застосовувала подібний підхід. У серпні компанія повідомила, що тимчасово сповільнила масштабування нових моделей після того, як одна з майбутніх систем наблизилася до критичного рівня можливостей у сфері кібербезпеки. Компанія вирішила спочатку посилити моніторинг, ізоляцію та механізми безпеки.
З Амодеєм несподівано погодився і власник xAI Ілон Маск, який має тривалий конфлікт з Альтманом. Коментуючи пропозицію керівника Anthropic, Маск коротко заявив: "Даріо має рацію".
Таким чином, серед керівників кількох найбільших американських AI-компаній формується рідкісний консенсус щодо необхідності свідомо стримувати швидкість розвитку найпотужніших систем. Основною політичною перешкодою залишається конкуренція США з Китаєм: адміністрація Трампа побоюється, що одностороннє уповільнення дасть Пекіну технологічну перевагу.
За матеріалами: Даріо Амодей, OpenAI, Financial Times
