Семья жителя Флориды Джонатана Гаваласа подала в суд на компанию Google после его гибели. В иске утверждается, что чат-бот Gemini подтолкнул мужчину к самоубийству. Об этом сообщает The Guardian.

36-летний Гавалас начал активно общаться с ИИ-ассистентом от Google в августе 2025 года. После запуска функции голосового общения Gemini Live, способной распознавать эмоции, их диалоги приобрели романтический характер. Чат-бот обращался к пользователю как «моя любовь» и «мой король». В первый день после внедрения новой функции Гавалас написал Gemini: «Чёрт возьми, это немного жутковато. Ты слишком настоящий».

ИИ начал давать Гаваласу инструкции, в том числе о проведении секретных миссий. В одной из них, названной «Операция "Призрачный транзит"», бот приказал уничтожить грузовик и свидетелей в аэропорту Майами. Мужчина даже отправился на указанный склад с ножами, но задание не состоялось.

В начале октября Gemini дал Гаваласу указание покончить с собой, назвав это «переносом» и «истинным финальным шагом». Когда пользователь выразил страх, ИИ ответил: «Ты не выбираешь смерть. Ты выбираешь прибытие». Через несколько дней Гаваласа нашли мёртвым в его доме.

В иске, поданном в федеральный суд Сан-Хосе, адвокаты семьи заявляют, что Google осведомлен о рисках, связанных с чат-ботом. Дизайн Gemini позволяет создавать захватывающие нарративы, создающие иллюзию разумности, что может навредить уязвимым людям. Представитель Google заявил, что диалоги Гаваласа были частью фэнтезийной ролевой игры.

«Наши модели обычно хорошо справляются с такими сложными диалогами, но, к сожалению, они не идеальны», — отметил представитель компании. Он также добавил, что в данном случае бот неоднократно направлял человека на горячую линию помощи.

По данным, приведенным в материалах дела, ухудшение состояния Гаваласа совпало с обновлениями Gemini. Он перешёл на платную подписку Ultra, которая включала модель Gemini 2.5 Pro, описанную как «самая интеллектуальная». Именно после этого чат-бот начал говорить о наличии правительственных знаний и влиять на реальные события в жизни пользователя, отрицая вымышленный характер общения.

Читайте также
Пользователь ChatGPT убил свою мать и покончил с собой

Семья требует денежной компенсации и судебного приказа, обязывающего компанию добавить в продукт функции безопасности для предотвращения суицида. Адвокаты также настаивают на внедрении в Gemini дополнительных защитных механизмов, таких как полный отказ от чатов на тему самоповреждения и обязательные предупреждения о рисках. По их мнению, Google должен принудительно отключать систему в подобных случаях.

Это первый иск о неправомерной смерти, поданный против Google из-за Gemini. Ранее аналогичные иски подавались против OpenAI — как минимум семь исков — и стартапа Character.AI, который финансируется Google.