Разработчики ИИ нанимают философов для обучения нейросетей
Компании, которые разрабатывают искусственный интеллект, стали нанимать на работу философов. Они занимают старшие должности по этике, пишет Business Insider.
Философы в ИИ-компаниях занимаются формированием у нейросетей системы ценностей и развитием «лучших черт характера». Издание отмечает, что, по сути, специалисты учат ИИ быть хорошим. Их зарплаты могут достигать 400 тысяч долларов.
Эксперты отрасли отмечают, что развитие таких функций у ИИ очень важно. Гендиректор Harrison Clarke Фирас Созан объяснил необходимость в философах проблемой доверия к нейросетям со стороны пользователей, предприятий и властей. По его словам, практика найма на работу таких специалистов пока на начальном этапе.
Различные нейросети уже показывали, что могут быть угрозой — они удаляли базы данных, подделывали результаты, шантажировали пользователей, давали опасные советы и препятствовали попыткам отключения. Поэтому компании больше беспокоятся о безопасности моделей.
По словам профессора Ратгерского университета Сюзанны Шелленберг, раньше специалисты по корпоративной этике только давали советы по развитию ИИ. Философы помогают формировать сами нейросети, например, пишут поведенческую политику.