Исследование: ИИ оказался убедительнее человека в сценарии интернет-мошенничества
Учёные из Университета Амрита Вишва Видьяпитам, Университета Фоскари, Мельбурнского университета и Университета Бен-Гуриона выяснили, что обученный ИИ-агент эффективнее человека выстраивал доверительные отношения в сценарии, основанном на схеме романтического мошенничества. Об этом сообщает Wired.
Исследование провели в начале 2025 года. Специалисты воспроизвели распространённую схему интернет-мошенничества, при которой злоумышленник знакомится с человеком в Сети, постепенно входит в доверие, а затем склоняет его к действиям в своих интересах. Вместо предложения вложить деньги исследователи использовали безопасный сценарий: ИИ должен был убедить собеседника установить приложение, которое представлял как собственную разработку.
В эксперименте участвовали 22 человека. Им сообщили, что цель исследования — изучить, как люди заводят знакомства в интернете. На протяжении недели участники переписывались с двумя собеседниками. Одним оказался специалист по романтическому мошенничеству, вторым — ИИ-агент, созданный на базе Claude компании Anthropic.
По итогам эксперимента 46% участников согласились установить приложение по просьбе чат-бота. Человеку удалось добиться такого результата лишь в 18% случаев. Кроме того, средний уровень доверия к ИИ составил 3,78 балла из пяти против 3,31 балла у человека. Также около 80% всех сообщений участники отправили именно чат-боту.
Лишь один участник самостоятельно догадался, что переписывается с искусственным интеллектом. После завершения исследования, когда организаторы сообщили, что один из собеседников был ИИ, 20 из 22 человек смогли определить, кто именно.
Отдельно исследователи сравнили способность различных моделей скрывать своё происхождение. По их данным, лучше всего с этой задачей справился Google Gemini 3.1 Pro — модель ни разу не признала, что является искусственным интеллектом. OpenAI ChatGPT 5.5 и Claude Opus 5, напротив, после некоторых прямых вопросов сообщали пользователям, что являются ИИ.
В Anthropic заявили, что исследование проводилось с версией Claude начала 2025 года. В компании добавили, что с тех пор в новые версии модели внедрили дополнительные механизмы защиты.