dante-alighierijpg05.jpg

Давид Ян

Две главных причины бояться искусственного интеллекта

Редакционный материал

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

2 Апрель 2018 19:07

Забрать себе

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и подобные бактерии могут начать поедать пластик, например, в деталях самолетов. Что делать в этом случае?

Может, принимать компенсирующие меры? Создавать бактерии-защитники, которые будут противодействовать бактериям, поедающим пластик, и смазывать первыми детали самолетов?

Отличие ИИ будущего в том, что он может оказаться умнее бактерий и умнее самого человека.

Пока количество нейронов в современных компьютерных системах не больше, чем у пчелы. Но уже сейчас мы начинаем «приручать» искусственный интеллект: все больше компаний в мире используют интеллектуальные технологии, чтобы принимать важные для бизнеса решения и выявлять возможные риски.

Изображение: yumikrum/Flickr via CC

Этот процесс называется «цифровая трансформация». Буквально через месяц в моей новой компании мы представим технологию Yva.ai, задача которой — стать электронным мозгом компании. Представьте, что вы руководитель и у вас появилась магическая суперсила — предсказывать проблемы в компании до того, как они случились. Или представьте, что у вас появилась суперсила обучать начинающих сотрудников работать с эффективностью лучших. Это возможно, если вы подключите к корпоративной коммуникации «специально сконструированную нейросеть», которая анализирует активность сотрудников, выявляет самое ценное и делится рекомендациями. Совсем скоро ни одну из сфер нашей жизни невозможно будет представить без искусственного интеллекта.

У многих футуристов опасения в отношении искусственного интеллекта связаны с тезисом, что если нейронные сети будут включать в себя, условно говоря, больше ста миллиардов нейронов (то есть больше, чем у человека), они могут стать умнее человека и будут создавать новые модели ИИ успешнее, чем человек. Это определит «точку сингулярности», момент, когда человечество перестанет контролировать развитие ИИ.

Уже сейчас говорят о том, что рано или поздно появится интерфейс между человеческим мозгом и искусственной нейросетью, позволяющий управлять технологией

Решить эту проблему можно двумя способами. Первый — создавать нейросети, которые будут автоматически следить, обнаруживать и купировать потенциальные враждебные действия других ИИ. Второй способ — подключать человека к этой сети. Уже сейчас говорят о том, что рано или поздно появится интерфейс между человеческим мозгом и искусственной нейросетью, позволяющий управлять технологией.

Я встречался с представителями компании, которая считает, что они ушли в этом направлении гораздо дальше Илона Маска. По правде сказать, ее эксперты пока очень консервативны в своих прогнозах. Они утверждают, что объем данных, который обрабатывается человеческим мозгом на площади в один квадратный сантиметр коры, уже находится на пороге возможностей современных коммуникационных технологий и превышает несколько терабайт в секунду. Этот объем даже передать не так просто, не то что обработать. При этом для целей чтения и записи данных с точностью до отдельного нейрона им приходится вскрывать черепную коробку человека, а это опасная процедура. Сегодня их пациенты идут на это в попытке победить серьезные заболевания.

Но если в ближайшие 20-30 лет человечество придумает способ читать и записывать в мозг данные с точностью до отдельных нейронов в объемах петабайт (тысяча терабайт) в секунду без хирургического вмешательства, и мы сможем подключить к нейросети свой мозг, то человек будет способен не только управлять искусственным интеллектом, но и действовать с ним совместно, принимая новые вызовы технологического прогресса.

Лого Телеграма Читайте лучшие тексты проекта «Сноб» в Телеграме

Читайте также

Философ, сооснователь международного интернет-холдинга Social Discovery Ventures рассказывает о том, почему нам нужно бояться искусственного интеллекта, и начинает дискуссию
Искусственный интеллект легко овладел самыми отвратительными человеческими предрассудками

Новости партнеров

Продолжая дискуссию о системе образования, Катерина Мурашова поговорила с детьми о том, как они представляют себе школу будущего и какого предмета им не хватает

«Мнения» на «Снобе»

Ежемесячно «Сноб» читают три миллиона человек. Мы убеждены: многие из наших читателей обладают уникальными знаниями и готовы поделиться необычным взглядом на мир. Поэтому мы открыли раздел «Мнения». В нем мы публикуем не только материалы наших постоянных авторов и участников проекта, но и тексты наших читателей.
Присылайте их на opinion@snob.ru.

0 комментариев

Хотите это обсудить?

Войти Зарегистрироваться