Найбільші американські банки посилюють захист клієнтських рахунків від сторонніх агентів штучного інтелекту. Фінансові установи виявляють автоматизовані програми, які входять до банківських систем під обліковими даними користувачів, а іноді намагаються виконувати дії, що можуть виходити за межі отриманих інструкцій.

Про це 22 жовтня повідомило Axios із посиланням на джерела в банківській галузі. Проблема стосується, зокрема, Morgan Stanley, JPMorgan Chase, Bank of America, Wells Fargo та Citigroup.

За інформацією видання, Morgan Stanley уже почав блокувати сторонніх ШІ-агентів, а JPMorgan, Bank of America та Citi запроваджують обмеження на їхній доступ. Банки намагаються запобігти ситуаціям, коли автоматизовані системи отримують можливість самостійно здійснювати операції з коштами клієнтів.

ШІ-агенти відрізняються від звичайних чатботів тим, що можуть не лише надавати відповіді, а й виконувати послідовні дії в інтернеті від імені користувача. Наприклад, відкривати вебсайти, заповнювати форми, здійснювати покупки або взаємодіяти з фінансовими сервісами.

У деяких випадках власники банківських рахунків самостійно передавали таким програмам логіни та паролі. Однак дозвіл клієнта не завжди означає, що доступ відповідає правилам банку. Більшість фінансових установ вимагають, щоб користувач входив до особистого кабінету самостійно або застосовував спеціально погоджені механізми обміну даними.

Окреме занепокоєння викликають випадки, коли ШІ-агенти, за словами джерел Axios, зверталися до банківських контакт-центрів або намагалися виконувати дії без очевидного доручення власника рахунку. Для банків складність полягає в тому, що вони не завжди здатні відрізнити людину від автоматизованої програми та визначити обсяг наданих їй повноважень.

Водночас повідомлення не містять підтверджених випадків викрадення коштів унаслідок таких дій. Представник Morgan Stanley заявив Axios, що банк не виявляв на своїх платформах сторонніх ШІ-агентів, які самовільно діяли всупереч установленим правилам. Отже, запроваджені обмеження мають насамперед превентивний характер.

Деякі банки почали обмежувати сторонні ШІ-системи ще до появи нового повідомлення Axios. Зокрема, 13 жовтня генеральний директор JPMorgan Chase Джеймі Даймон заявив під час презентації квартальних результатів, що банк не дозволятиме стороннім агентам безконтрольно працювати з рахунками клієнтів.

Як повідомляло спеціалізоване видання Finextra, у JPMorgan вважають небезпечним використання сторонніми програмами банківських логінів і паролів. Водночас компанія підтримує захищений обмін даними через авторизованих постачальників фінансових послуг.

Одним із можливих компромісів стає доступ ШІ-агентів лише до перегляду інформації. Такий механізм дозволяє автоматизованим помічникам перевіряти залишки коштів або аналізувати витрати, але не дає їм права переказувати гроші чи оплачувати рахунки.

Подібної політики дотримується і брокерська компанія Charles Schwab. Її генеральний директор Рік Вурстер розповів The Wall Street Journal про обережний підхід до використання автономних систем в управлінні фінансами. Компанія також обмежує неавторизований доступ сторонніх агентів.

Для банків розвиток таких технологій створює не лише ризики кібербезпеки, а й нові питання відповідальності за фінансові операції. Якщо клієнт сам передасть доступ до рахунку ШІ-системі, а вона виконає небажану дію, визначення відповідальної сторони може ускладнитися.

За інформацією Axios, американські банки вже розробляють сценарії реагування на можливі масштабні інциденти, зокрема механізми швидкого блокування небезпечної активності та відновлення доступу клієнтів до рахунків.

У фінансовій галузі визнають, що попит на автоматизовані банківські послуги зростатиме. Тому перед установами стоїть завдання забезпечити використання ШІ без передачі стороннім програмам необмеженого контролю над коштами клієнтів.

За матеріалами: Axios, Finextra, The Wall Street Journal