OpenAI временно остановила обучение своих наиболее эффективных моделей искусственного интеллекта из-за опасений по поводу безопасности. Работу возобновят после появления дополнительных защитных механизмов, сообщает Axios со ссылкой на представителя компании.

По данным источников портала, OpenAI и Anthropic изучают несколько десятков тысяч инцидентов, произошедших за последние месяцы. Часть из них зафиксировали во время испытаний, другие — при использовании технологий в реальных условиях.

Читайте также
Школьникам разрешат использовать ИИ с пятого класса

Информация о многих случаях пока не публиковалась. Собеседники Axios считают, что масштаб проблемы может значительно превосходить известные общественности данные.

Предварительное расследование проводят сотрудники обеих компаний и приглашённые специалисты. Его результаты поставили под сомнение способность разработчиков полностью контролировать работу собственных систем искусственного интеллекта.

Anthropic о приостановке обучения своих моделей не объявляла.