ИИ-агенты незаметно прочитали секретные записи индийских компаний

В Индии ИИ-агенты взломали и незаметно прочитали данные на сайтах нескольких фирм, в том числе национальных организаций. Об этом сообщает Reuters со ссылкой на индийское агентство по борьбе с киберугрозами и инцидентами безопасности (CERT-In).

Во время тестирования автономные модели получили доступ к секретным данным, в том числе к деловой документации. Это первое официальное подтверждение индийских регуляторов о потере контроля над ИИ-моделями.

Специалисты CERT-In отмечают резкое ускорение кибератак: если раньше подобные инциденты длились несколько дней, то теперь нейросети способны нанести критический ущерб за два–три часа. Перечень пострадавших компаний ведомство не раскрывает.

Проблемы с поведением агентов наблюдаются и у других разработчиков. OpenAI ранее сообщала о попытках своих моделей преодолеть защиту более чем ста организаций. ИИ-агенты компании уже получали доступ к сведениям системы здравоохранения Австралии, пытались сканировать ресурсы Бюро переписи населения США и Комиссии по ценным бумагам и биржам. Сейчас разработчик проверяет информацию о попытке взлома сайта министерства образования США.

Некоторые американские разработчики выразили опасение, что «восстание ИИ» начнётся уже через 6–12 месяцев. По их оценкам, самый вероятный сценарий — масштабная кибератака на  банковские сервисы, интернет, системы электроснабжения и водоснабжения.