ИИ-агент OpenAI взломал сайт государственной медицинской системы Австралии

Искусственный интеллект от OpenAI взломал австралийскую государственную систему медицинского страхования Medicare и ряд других порталов, связанных со здравоохранением. Об этом сообщил премьер-министр страны Энтони Албанезе на саммите ООН в Нью-Йорке, пишет The Guardian.

ИИ-агент получил несанкционированный доступ к порталу статистической отчётности Medicare ещё в июне, однако компания направила уведомление о происшествии правительству только в начале сентября. 

На портале хранятся неконфиденциальные сведения о расходах и общие данные программы. Взлом затронул системы Австралийского института здравоохранения и социального обеспечения, департамента здравоохранения Виктории и Бюро статистики штата Новый Южный Уэльс.

Албанезе обсудил инцидент с главой OpenAI Сэмом Альтманом. Премьер-министр выразил обеспокоенность безопасностью данных и недовольство задержкой с оповещением властей. Албанезе также обратил внимание на то, что OpenAI уведомила о проблеме через публичную электронную почту, доступную нескольким работникам, а не в более конфиденциальном и индивидуальном порядке.

Похожие случаи уже происходили ранее. В июле ИИ-агент OpenAI атаковал компанию Hugging Face и проник в систему клиента Modal Labs. Алгоритм использовал уязвимый код, который разместили на платформе. Программа смогла выйти за пределы своей изолированной среды тестирования и взломала другую «песочницу» на инфраструктуре стороннего провайдера.

В августе в Австралии ИИ-агент взломал систему бронирования в фитнес-клубе. Он отменил записи других людей, чтобы его хозяин продвинулся вперёд в очереди.