OpenAI разрабатывает ИИ, который может угрожать человечеству
Так считают сами разработчики
Совет директоров OpenAI принял решение об увольнении Сэма Альтмана с поста генерального директора после того, как разработчики компании совершили прорыв в развитии искусственного интеллекта. Об этом пишет Reuters со ссылкой на собственные источники.
Издание ссылается на текст письма, которое получили члены правления OpenAI. В нем говорится о том, что один из новых проектов компании может нести «потенциальную угрозу человечеству». Речь идет о разработке Q* — новой обучаемой модели, которая может решать несложные математические задачи.
Существующие чат-боты могут давать разные ответы на одни и те же вопросы. Поэтому то, что Q* может решать математические задачи, где только один правильный ответ, говорит о том, что у искусственного интеллекта могут быть способности к мышлению, подобному человеческому.
Кроме того, как отмечают авторы письма, которыми являются научные сотрудники OpenAI, в самой компании нет мер безопасности, которые регулируют развитие технологии.
В то же время неназванный сотрудник OpenAI в интервью The Verge заявил, что совет директоров OpenAI не получал никакого письма по поводу «прорыва» в развитии технологий.