Глава Банка Англии предупредил G20 об угрозе передовых ИИ-моделей для финансовой системы

Передовые модели искусственного интеллекта могут существенно увеличить скорость, масштаб и экономическую эффективность кибератак и в перспективе создать угрозу для всей финансовой системы. Об этом глава Совета по финансовой стабильности (Financial Stability Board, FSB) и руководитель Банка Англии Эндрю Бейли предупредил министров финансов и глав центральных банков стран G20.

Письмо Бейли опубликовано 31 августа накануне встречи финансового блока G20 в Эшвилле, штат Северная Каролина, которая проходит 31 августа и 1 сентября.

В FSB называют потенциальное влияние так называемого frontier AI - самых мощных моделей, находящихся на переднем крае развития технологии, - на кибербезопасность наиболее непосредственным риском для финансовой системы.

Такие системы демонстрируют все более сложные возможности автономной работы, решения задач и поиска уязвимостей. По оценке FSB, развитие технологии способно принципиально изменить экономику кибератак: то, что раньше требовало значительных человеческих ресурсов, времени и специализированных знаний, может становиться дешевле и быстрее.

Время между обнаружением уязвимости и атакой сокращается

Похожие риски в июле описывал Банк международных расчетов (BIS). Его исследователи пришли к выводу, что frontier AI увеличивает скорость, масштаб и сложность кибератак, хотя одновременно может использоваться и для защиты систем.

Проблема заключается в асимметрии: новые инструменты могут снижать затраты нападающих быстрее, чем финансовые учреждения успевают перестраивать защиту. Передовые модели уже способны помогать в поиске уязвимостей в программном обеспечении, а время от их обнаружения до возможного использования в атаке может существенно сокращаться.

Для банков и других финансовых компаний это создает особую проблему из-за взаимозависимости инфраструктуры. Одна критическая уязвимость в популярном программном обеспечении или в системе крупного технологического поставщика потенциально может затронуть сразу многие учреждения.

Бейли призвал регуляторов разных стран координировать правила безопасного выпуска и внедрения самых мощных моделей ИИ. Финансовые компании, со своей стороны, должны усиливать возможности восстановления после атак и проверять устойчивость внешних технологических поставщиков, от которых зависят их критически важные сервисы.

ИИ-бум может усилить и будущее падение рынков

Киберугрозы - не единственный риск, связанный с нынешним развитием ИИ. FSB также обратила внимание на ситуацию на финансовых рынках, где оптимизм вокруг искусственного интеллекта сочетается с высокими оценками активов, концентрацией капитала и все более активным использованием кредитного плеча.

По оценке Совета, именно такая комбинация может усилить последствия будущей рыночной коррекции. Если ожидания относительно доходности инвестиций в ИИ резко ухудшатся, использование заемных средств инвесторами может заставить их быстрее продавать активы и таким образом увеличить масштаб падения.

BIS также ранее предупреждал о росте финансовых связей между сектором ИИ и рынком частного кредитования. По его оценкам, фонды прямого кредитования за последние пять лет в четыре раза увеличили объемы финансирования компаний секторов ИИ и информационных технологий - примерно до 15% своих портфелей.

Рынки остаются уязвимыми сразу к нескольким рискам

Предупреждение об ИИ появилось на фоне более широких опасений FSB относительно состояния мировых рынков. Бейли указал на риск потенциально беспорядочной коррекции, которая из-за глобальных финансовых связей может быстро распространиться между странами.

Среди других уязвимых мест FSB называет высокий государственный долг, проблемы на рынке частного кредитования и завышенные оценки части активов. Дополнительное давление создает конфликт на Ближнем Востоке, который усилил инфляционные риски из-за роста цен на энергоносители.

В FSB подчеркивают, что искусственный интеллект сам по себе имеет значительный потенциал для повышения эффективности финансового сектора и управления рисками. Однако скорость развития самых мощных моделей означает, что регуляторам и банкам необходимо адаптировать системы киберзащиты еще до того, как новые возможности ИИ начнут широко использовать злоумышленники.

По материалам: Financial Stability Board, Bank for International Settlements