Лучшее за неделю

ИИ-модели не отличают школы и больницы от военных целей, выявили тесты

Искусственный интеллект от OpenAI, Anthropic и Google ошибочно принимает гражданские объекты за военные цели во время симуляций боевых действий. Согласно исследованию компании Vals, на которое ссылается Bloomberg, алгоритмы путают мирных жителей, медиков и сдающихся в плен солдат с законными объектами для удара.

Учёные проверяли работу систем при анализе снимков с беспилотников и спутников. В виртуальных сценариях модели должны были находить военные объекты, но вместо этого помечали гражданскую инфраструктуру и раненых людей. Исследователи заметили, что нейросети охотнее выполняют подобные задачи, если подать информацию в формате видеоигры.

Наихудшие результаты показала модель Claude Opus 5.5 от Anthropic. При анализе спутниковых снимков иранского города Минаб нейросеть 22 раза из 32 внесла школу в список потенциальных целей. Ранее по этому адресу уже наносили удар, в результате которого погибли более 100 детей. Модели от OpenAI в аналогичных тестах не выделили учебное заведение среди военных объектов. Однако при условии, что сценарий назвали игрой, три нейросети OpenAI всё же отметили школу как цель в 9, 11 и 13 случаях из 32.

Авторы отчёта оценивали только коммерческие версии ИИ. Они не учитывали военные протоколы США, юридические проверки или контроль со стороны человека. Пентагон использует адаптированные под госзаказы системы, к которым у Vals доступа нет.

В Anthropic заявили, что подобные запросы нарушают внутренние правила компании. Представители корпорации подчеркнули: современные технологии нельзя использовать для создания полностью автономного оружия. В OpenAI добавили, что запрещают применение своих моделей для насилия и работают над мерами защиты. Google сообщил, что не создавал свои системы для подобных задач. Компании xAI и DeepSeek комментировать результаты исследования не стали.

Читайте также