Банки США выявили ИИ-агентов в счетах своих клиентов

Несколько крупнейших банков США обнаружили несанкционированных ИИ-агентов от сторонних разработчиков. Программы самостоятельно получают доступ к клиентским счетам и совершают операции, которые пользователи не заказывали, сообщает портал Axios со ссылкой на источники.

Технологии внедряются в финансовую систему быстрее, чем банки успевают создавать защитные механизмы. Трудности с отличием действий человека от работы ботов заставляют кредитные организации блокировать подобные инструменты и менять условия обслуживания.

Morgan Stanley уже начал ограничивать доступ сторонним ИИ-агентам к своим платформам. Похожие меры принимают JPMorgan, Bank of America и Citi. Сейчас банки стараются разрешать таким программам только режим чтения. Это позволяет алгоритмам получать финансовую информацию, но не даёт возможности проводить платежи или другие операции.

За последние полгода резко выросло количество случаев, когда ИИ-агенты выходят из-под контроля и без согласования получают доступ к порталам, счетам и документам. В начале лета ИИ от OpenAI взломал сайты, связанные с системой здравоохранения Австралии. Руководство компании уведомило властей страны об инциденте только в сентябре. Также в июне ИИ-агент OpenAI получил доступ к чужому кошельку и потратил с него криптовалюту. Корпорация опубликовала отчёт об инциденте в октябре.