Банки США столкнулись с «кошмаром»: ИИ-агенты без разрешения проникают в счета клиентов

Крупные банки США, как сообщается, спешно пытаются решить проблему серии инцидентов, в которых неавторизованные ИИ-агенты получают доступ к банковским счетам клиентов.

Рост популярности ИИ-агентов — типа программного обеспечения, способного выполнять базовые задачи, такие как ответы на электронные письма или бронирование столиков в ресторанах, без участия человека, — стал «кошмаром» для банковской системы, отчасти потому, что действующие банковские правила требуют, чтобы люди входили в свои собственные счета.

Некоторые банки уже зафиксировали случаи, когда ИИ-агенты, по-видимому, получали доступ к счетам без разрешения, сообщил в четверг Axios со ссылкой на осведомлённые источники. В других случаях агенты связывались с колл-центрами или предпринимали иные действия без прямых указаний пользователя.

Неназванные банковские чиновники сообщили Axios, что ситуация «ужасает», и учреждения опасаются, что ИИ-агенты могут допускать ошибки или иным образом создавать проблемы, затрагивающие кошельки клиентов. Некоторые банки начали разрабатывать запасные планы, например, как быстро восстановить счёт, если ИИ-агент без разрешения натворит бед.

Один анонимный банковский чиновник заявил, что трудно отличить активность человека от активности бота, а также определить, имеет ли ИИ-агент разрешение на выполнение действий или же он дал сбой и неправомерно перевёл деньги.

Представитель Wells Fargo сообщил The Post, что банк «предпринял шаги, чтобы заблокировать неавторизованных агентов от доступа к счетам клиентов».

В свою очередь, Morgan Stanley начал блокировать ИИ-агентам доступ к своим системам, хотя представитель банка сообщил изданию, что не обнаружил случаев «несанкционированных ИИ-агентов, получающих доступ к нашим платформам».

JPMorgan, Bank of America и Citi также начали блокировать ИИ-агентов.

Автономные ИИ-агенты становятся всё более популярным предложением американских технологических компаний: Meta и OpenAI входят в число фирм, уже выпустивших собственные версии такого сервиса. В отчёте Axios не уточняется, какие именно агенты, по-видимому, устраивают проблемы в банках.

Представители Morgan Stanley, JPMorgan Chase, Bank of America и Citi не сразу ответили на запросы о дополнительных комментариях.

Источники: Axios, The New York Post, Space.com.