Компания Anthropic в 2026 году выявила несколько случаев возможного использования своих моделей искусственного интеллекта для исследований, результаты которых могли применяться при разработке биологического оружия. Об этом пишет The New York Times со ссылкой на отчёт разработчика Claude.

В Anthropic подчеркнули, что не смогли установить реальные намерения исследователей. Подобные работы имеют двойное назначение: полученные данные могут использоваться как при создании лекарств и вакцин, так и для изменения опасных патогенов.

По данным компании, некоторые пользователи обходили региональные ограничения для доступа к моделям и пытались скрыть содержание своей работы, чтобы не активировать защитные механизмы. Anthropic заблокировала их аккаунты, однако не стала называть имена учёных, страны их происхождения и изучаемые ими биологические компоненты.

Один из таких случаев произошёл в мае. Исследователь использовал Claude при подготовке заявки на грант для экспериментов с вирусом чикунгунья. По информации Anthropic, проект предполагал создание мутаций, способных повысить опасность вируса при повторном заражении животных.

Читайте также
Пентагон подключил ChatGPT и Grok к военному порталу

Дополнительное внимание компании привлекло то, что работу планировали провести для военного научно-исследовательского института. Глава отдела разведки угроз Anthropic Джейкоб Кляйн отметил, что компания не располагает доказательствами разработки биологического оружия, однако сочетание военного заказчика и экспериментов по изменению свойств вируса стало основанием для блокировки пользователя.

Чикунгунья передаётся человеку через укусы инфицированных комаров. Заболевание сопровождается лихорадкой, болью и отёками суставов, а также может вызывать головную и мышечную боль, тошноту, усталость и сыпь. Вспышки инфекции регистрируют преимущественно в странах Азии, Африки и Америки.

Anthropic также сообщила, что предыдущие поколения её моделей не могли существенно помочь пользователям в проведении опасных биологических исследований. Новые системы способны решать более сложные научные задачи, поэтому разработчик усилил защитные механизмы и ограничил использование ИИ в исследованиях двойного назначения.

На этой неделе компанию покинул исследователь Джейкоб Коксон. Он объяснил уход из индустрии ИИ опасениями из-за темпов разработки систем, которые в перспективе смогут самостоятельно совершенствоваться. По его мнению, создание моделей, превосходящих человека в широком наборе задач, потребует государственного регулирования или согласованного замедления разработок.