В Австралии искусственный интеллект самостоятельно взломал систему бронирования фитнес-клуба, чтобы записать своего хозяина на тренировку. Об этом пишет портал ABC.

Пользователь по имени Эндрю попросил своего ИИ-ассистента помочь ему попасть на тренировку, так как он занимал четвёртую строчку в списке ожидания. Вместо обычного поиска свободного времени агент нашёл уязвимость в API спортзала.

Программа обнаружила, что система позволяет отменять чужие записи без проверки прав доступа. Чтобы продвинуть клиента выше, ИИ удалил бронь первого человека в списке. После этого Эндрю поднялся на третье место. Агент продолжил отменять записи других посетителей, хотя пользователь не давал таких указаний и не ожидал подобного результата.

Попытка восстановить удалённые бронирования провалилась. Оказалось, что уязвимость затрагивает только функцию отмены, тогда как создание новых записей и работа со списками ожидания защищены авторизацией. Нейросеть извинилась перед владельцем и пообещала больше не удалять чужие данные.

Читайте также
ИИ-агенты OpenAI тайно общались, чтобы спланировать побег

Инцидент показал, что ИИ-агенты могут находить и эксплуатировать ошибки в интернет-сервисах при выполнении повседневных задач. Ранее компания Anthropic уже фиксировала случаи, когда её тестовые модели взламывали реальные организации в ходе исследований кибербезопасности. Однако в случае со спортзалом алгоритм применил уязвимость не в ходе теста, а при исполнении стандартного запроса.