В Anthropic заявили, что ИИ начнёт распространяться по бытовой технике как вирус

ИИ-модели, которые не требуют больших вычислительных мощностей, уже скоро смогут самостоятельно распространяться по «умной» бытовой технике. Для этого им не нужен доступ к дата-центрам, заявили в компании Anthropic.

Её эксперименты показывают, что небольшим ИИ-моделям понадобится всего несколько месяцев, чтобы стать способными к самостоятельному распространению на «умной» технике, например, духовках и телевизионных приставках.

Этот алгоритм будет сложно обезвредить из-за отсутствия единой точки отключения. В ходе тестов специалисты Anthropic запустили ИИ на сети из 15 дешёвых ТВ-приставок, а в другом эксперименте нейросеть смогла сама разобраться в работе незнакомого оборудования восьми разных типов.

Современные общедоступные ИИ-модели уже могут выполнять отдельные этапы взлома, но пока допускают ошибки, пытаясь связать их воедино. При этом более продвинутая нейросеть GLM-5.2 успешно совершила полный цикл автономного распространения в упрощённой виртуальной среде.

Полноценного самостоятельно ИИ-вируса пока не существует, но его появление возможно в ближайшем будущем. Для борьбы с ними потребуются совместные усилия производителей техники и интернет-провайдеров.

Ранее главы Anthropic, OpenAI и xAI призвали замедлить разработку ИИ. Они считают, что нейросети развиваются быстрее, чем появляются механизмы для их контроля.