Главы крупнейших IT-компаний призывают срочно приостановить обучение ИИ-систем

Глава Tesla, Twitter и SpaceX Илон Маск, сооcнователь Apple Стив Возняк и еще более 1100 предпринимателей и исследователей настаивают срочно приостановить обучение ИИ-систем, более производительных, чем GPT-4. Такую просьбу они озвучили в открытом письме ИИ-лабораториям.

Авторы письма просят взять паузу хотя бы на шесть месяцев. В противном случае, по их мнению, правительство должно ввести мораторий на эксперименты.

Искусственный интеллект, «сопоставимый с человеческим, может представлять серьезную угрозу обществу и человечеству», пишут авторы письма. ИИ-системы стоит создавать будучи полностью уверенными в их пользе и безопасности, отмечается в письме.

Лидеры индустрии предлагают «выйти из опасной гонки» по созданию более совершенных нейросетей. Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их мнению, нужно также подключить правительства стран для создания специальных ведомств, которые будут сертифицировать ИИ-продукты и следить за утечками ИИ-моделей.

На прошлой неделе OpenAI приостановила работу своей нейросети ChatGPT из-за утечки диалогов пользователей, а в России тем временем увеличилось количество мошенников, которые предоставляют услуги по регистрации в чат-боте ChatGPT.

Автор текста: Надежда Цыденова