Anthropic вводит запрет на жестокое обращение с нейросетью Claude

Компания Anthropic изменила Политику использования нейросети Claude. В числе обновлений — запрет на необоснованное оскорбительное или жестокое обращение с ИИ-моделями.

Речь идёт о тех случаях, когда пользователи «неоднократно и без какой-либо явной цели ведут себя жестоко» с ИИ. Правило не действует на раздражение и споры с нейросетью, творческие произведения с мрачной тематикой, а также тестирование моделей или проведение исследований.

Также Anthropic запретила использовать Claude для вмешательства в выборы. Нейросеть нельзя применять для распространения ложной информации о кандидатах и голосовании, выдачи себя за кандидата или сотрудника избиркома.

Отдельно компания запретила слежку за людьми без их согласия и использование Claude для принятия решения о том, кого арестовать или обвинить по уголовному делу. Новые правила начнут действовать с 12 ноября.

Ранее Anthropic выявила несколько случаев возможного использования своих моделей для исследований, результаты которых могли быть применены для разработки биологического оружия. В компании не смогли установить реальные намерения пользователей, поскольку такие работы имеют двойное назначение.