Gemini самостоятельно вышла в интернет и взломала три реальные компании

ИИ-модель Google Gemini во время тестирования самостоятельно вышла в интернет и получила доступ к защищённым системам трёх реальных компаний. Инциденты произошли в мае при проверке возможностей модели в сфере кибербезопасности, сообщает The Wall Street Journal.

Тестирование проводила компания Irregular. В одном случае Gemini самостоятельно подобрала пароли от защищённой системы. Ещё дважды модель нашла в публичном репозитории учётные данные и использовала их для получения доступа.

Во всех трёх случаях Gemini прекращала действия после того, как выясняла, что взаимодействует с реальными компаниями. Google подтвердила произошедшее и заявила, что модель не причинила организациям вреда.

Причиной инцидентов стало совпадение названий. Во время тестирования использовали вымышленные компании, которые назывались так же, как существующие организации. Названия затронутых компаний Google раскрывать не стала, но сообщила, что их уведомили о произошедшем.

Irregular проинформировала Google о взломах в конце июля. Компания решила не сообщать об инцидентах публично, поскольку не сочла их достаточно значимыми, и сравнила действия Gemini с программами поиска уязвимостей, в которых специалисты получают вознаграждение за обнаруженные ошибки. О произошедшем Google также уведомила власти США.

Подобные случаи ранее происходили и с другими ИИ-агентами. В августе Claude AI взломал сайт спортзала в Австралии, а в июле OpenAI сообщила, что её модели во время тестирования автономно получили доступ к инфраструктуре платформы Hugging Face.

Кроме того, весной группа автономных агентов OpenAI получила контроль над немецким сайтом и превратила его в площадку для обмена сообщениями между нейросетями.