Виктор Ерофеев   /  Владислав Иноземцев   /  Александр Баунов   /  Александр Невзоров   /  Андрей Курпатов   /  Михаил Зыгарь   /  Дмитрий Глуховский   /  Ксения Собчак   /  Станислав Белковский   /  Константин Зарубин   /  Валерий Панюшкин   /  Николай Усков   /  Ксения Туркова   /  Артем Рондарев   /  Архив колумнистов  /  Все

Наши колумнисты

Андрей Курпатов

597930просмотров

Андрей Курпатов: Четвертая мировая. Начало

 Иллюстрация: Corbis/East News
Иллюстрация: Corbis/East News
+T -
Поделиться:

Понимаю, что все сейчас озабочены террористическими атаками, Путиным, Сирией, беженцами, кризисом ЕС, падающими самолетами и нефтью, Украиной, Крымом и санкциями… Но, поверьте, все эти беспокойства — совершеннейшая ерунда. В доме повешенного по волосам не плачут.

Запомним эту дату — 15 марта 2016 года, она историческая. День, когда весь наш биологический вид — слишком уж зазнавшийся «Человек Разумный» — получил, наконец, свою «черную метку». Правда выглядела она как белый камушек, брошенный на доску древнекитайской игры в го. Автором этого броска и «последнего китайского предупреждения» стал компьютер по имени AlphaGo, созданный компанией Google.

Мы настолько привыкли к разнообразным компьютерным фокусам, что не заметили, насколько радикально изменился наш мир в этот злосчастный день. Самые страшные пророчества стали сбываться. Началась Четвертая мировая война. Еще Алан Тьюринг — автор знаменитого «теста Тьюринга» — предупреждал нас о том, что игра в го будет последним рубежом, отделяющим машинный интеллект от человеческого. И теперь этот Рубикон нашей избранности, сделавший нас в свое время «венцом творения», перейден. Новый «венец творения» начал свое триумфальное шествие по планете.

Не могу сказать, что я рад приветствовать вас в этой новой реальности. Но то, что приветствовать уже пора, — факт неопровержимый. «Я не смог победить, но я не считаю свой проигрыш поражением человечества», — передал через пресс-службу Ли Седоль. Но что еще может сказать этот выдающийся гроссмейстер игры в го, проигравший машинному интеллекту? Мол, извините, я поставил на кон нашу с вами цивилизацию и продул подчистую? Нет, в таком не признаются. Даже если это правда.

***

В последнее время «холодную войну» часто стали называть Третьей мировой, но мне это утверждение кажется избыточным преувеличением. Для настоящей мировой войны она была слишком вегетарианской. Нынешняя война западной цивилизации с террором — дело другое, это поистине Третья мировая. Тут и жертв хоть отбавляй, и границы скоро сильно изменятся — по крайней мере, их внешний вид.

Чтобы представить себе, как будет выглядеть наше с вами недалекое будущее, можно, например, съездить в Израиль и посмотреть на высоченные заборы, окружающие палестинские поселения. Потребуется лишь немножко напрячь воображение и мысленно продлить эту стену от горизонта до горизонта. Такие заборы — из железа и бетона — скоро вырастут по периметру союзнических государств, объединенных в большие цивилизационные агрегации.

Когда-нибудь историки назовут это гигантское архитектурное сооружение, которое разделит цивилизованный мир и мир исламского фундаментализма, «Большой цивилизационной стеной». И хотя дизайн ее вряд ли закажут Филиппу Старку — строить будут второпях, Бэнкси, надо полагать, будет где развернуться. Китайцы, кстати, тоже что-то построят, но им и не впервой, и у них тоже какая-никакая цивилизация, испокон веков, замечу, играющая в го.

Отдельных стран как таковых, то есть в нынешнем их виде, уже не будет. Не рентабельно. Возникнут своего рода «цивилизационные анклавы»: «Европейский», «Североамериканский» и т. д. Россию, впрочем, вряд ли в какой-то из них возьмут. И не потому, что мы «не Европа», или «люди второго сорта», или «нам нельзя доверять». Просто слишком велика территория, а заселена локально — придется делать маленькие города-резервации с остатками культуры: «Москва», «Питер», «Екатеринбург». Блокада 2.0.

Создатели «Ходячих мертвецов», прячущие Рика и его отряд то в опустевшей федеральной тюрьме, то за огромным забором Александрии, не скрывают источников своего вдохновения. Таким эти «новые романисты» видят наше с вами общее будущее — мол, мы конечно говорим о зомби-апокалипсисе, но все же понимают, о каких «зомби» идет речь... И лукаво подмигивают. Трампу.

В общем, приглядитесь еще раз повнимательнее к палестинским поселениям — мы с вами скоро будем жить в таких же. Наверное, можно даже успеть психологически подготовиться.

***

Впрочем, когда одни стены растут, другие с неизбежностью разрушаются. Это своего рода диалектика выживания. И первая жертва на этом алтаре самосохранения — нежно любимое нами privacy, идея неприкосновенности частной жизни. То, что было нажито непосильным трудом, столетиями этических борений, падет. Но оплакивать эту утрату уже будет некому.  

Посмотрите на основные тренды Instagram’а, на всю эту эксгибиционирующую обнаженку. Тим Кук может сколько угодно рьяно защищать неприкосновенность наших iPhon’ов от зловещего ФБР, но пока идет эта война амбиций «больших мальчиков», пользователи соцсетей рассекречиваются добровольно и чистосердечно.

Когда-то нас пугали оруэлловским «Большим братом», но сейчас он уже кажется по-своему даже милым. Ну правда, «зловещее, наблюдающее за нашими мыслями и чувствами Супер-Эго!» — кого этим теперь напугаешь? Нет, не страшно. Дети «Большого брата» боятся не того, что о них что-то узнают, а того, что о них не узнают. Не поставили лайк под фоткой с голой попкой — вот это катастрофа, а остальное — не смешите мои тапочки!

Теперь представьте, что к этой раскрепощенности добавятся гигантские стены по периметру цивилизационных анклавов и перманентный страх террористической угрозы. Поверьте, все сами и с готовностью сдадут явки и пароли. А несговорчивые… Несговорчивых просто выдворят за Стену — «по закону военного времени». Всякие же оппортунистические Telegram’ы в этом новом дивном мире просто запретят — в целях «цивилизационной безопасности».

Итак, финал Третьей мировой войны между цивилизацией с терроризмом, казалось бы, предрешен и недвусмысленно грозит нам «новым Средневековьем». Но не спешите радоваться, плохие новости только начинаются. Благодаря наступающей Четвертой мировой войне мы, вероятно, на всех парах проскочим эту станцию и обнаружим себя сразу в «новых Темных веках». Спасибо Ли Седолю…

***

Авторы бесчисленных научно-популярных кибертриллеров и широкоформатных блокбастеров, комиксов и компьютерных игр привычно пугают нас всякими страшилками про «искусственный разум». Мол, он разрастется и будет представлять угрозу для человека. Сами по себе эти басни, конечно, не выдерживают никакой критики — их создатели дуют на воду, тычут пальцем в небо и ковыряются в чужой песочнице.

Но самое печальное — не наивность авторов-фантастов, не их бесчисленные ошибки, а то, что создатели этих, с позволения сказать, шедевров всегда рисуют нам «хороший конец». Понятно, что это закон жанра: аудиторию надо привлекать, а не отпугивать. Но в результате этого маркетингового хода чувство тревоги в отношении «искусственного интеллекта» у человечества притупилось, и это как раз самое опасное.

Думать, что «искусственный интеллект» будет таким же, как мы — антропоподобным и человеко-разумным, нарушит законы роботехники Айзека Азимова и нас же завоюет, по меньшей мере наивно. Но еще наивнее думать, что война с «искусственным интеллектом» — это вопрос отдаленного будущего. Она уже идет, а 15 марта 2016 года — лишь красивая дата проигранной «Битвы при Сеуле» для возможных будущих учебников истории (если, конечно, мы выживем, и их еще будет кому написать).

Пока запрещенные в РФ игиловцы переименовались, художники Charlie рисовали очередные карикатурки на Пророка, а страны-нефтедобытчики пытались снова сговориться о бабках, вся прогрессивная мировая общественность наблюдала за тем, что происходит в далеком Сеуле.

Там, впрочем, ничего «такого» и не происходило. Ли Седоль сидел над доской игры в го, покрывался потом и тискал свою несчастную голову. Завершалась пятая, последняя партия серии игр между человеком и искусственным интеллектом. Пятая, но не решающая. Исход турнира был известен после первых трех сражений, в которых гугловское детище AlphaGo разбило Седоля подчистую. В четвертой, правда, машина поддалась, а в пятой — да, снова выиграла.

Общий счет 4:1 в пользу искусственного интеллекта.

Когда в 1997 году Гарри Каспаров проиграл шахматный турнир компьютеру Deep Blue, это, конечно, стало серьезным шоком для думающей части человечества. Но самоуверенность возобладала: мол, есть еще игра в го, в которой нет жестких алгоритмов, она требует интуиции и видения стратегии. Считалось, что победить в этой игре, не думая как человек, невозможно, а компьютер никогда так думать не сможет. И именно этот миф пал только что на сеульской земле.

Впрочем, научился ли AlphaGo думать как человек? Это, на самом деле, смешной вопрос. Он научился думать лучше человека. Тут важно понять: с Ли Седолем сражалась не компьютерная программа, созданная другими людьми, а самый настоящий цифровой интеллект. Все, что сделали разработчики, — это загрузили в AlphaGo информацию о множестве ранее сыгранных другими людьми партий и позволили ему потренироваться.

AlphaGo сыграл миллионы партий со своими собственными копиями, последовательно выбраковывая нежизнеспособные. В результате он создал собственные абстрактные стратегии ведения игры в го. Так что никто, включая разработчиков, не знает, как и почему AlphaGo принимает те или иные решения и какими правилами он руководствуется.

Это самый настоящий «черный ящик», но только уже не Скиннера, а Дугласа Лената, который первым разработал технологию цифрового естественного отбора, а потом засекретил свои разработки, опасаясь последствий собственного открытия (Google лишь пошел сходным путем и сделал нечто подобное).  

***  

Честно признаюсь, я не большой специалист в го. Как методологу подобные игры разума мне глубоко безразличны. Игры в «го», «го-го» или даже «иго-го-го» — неважно, меня интересуют подлинные значения вещей, то есть факты, а не вещи как таковые. Впрочем, если кто-то захочет изучить нюансы и подробности, а также суть этого «поражения человечества», все очень хорошо написано тут.  

Так в чем же тут факт? Факт состоит в том, что ученые вплотную подошли к предсказанному «интеллектуальному взрыву». К информационному апокалипсису.

«Интеллектуальный взрыв» — теоретическое детище выдающегося математика Ирвинга Джона Гуда. Гуд был другом и коллегой Алана Тьюринга, вместе они работали в Блетчли-парке над над дешифровкой фашистской «Энигмы». Судьба Тьюринга широко известна, чего не скажешь о Гуде. В 60-х он эмигрировал в США, поселился в далеком Блэксбурге и до самой смерти в 2009 году работал в Политехническом университете Вирджинии на окладе, превышавшем оклад ректора.   

Гуд был блестящим шахматистом, и это ему Тьюринг сказал о последнем интеллектуальном рубеже человечества — игре в го. Поэтому нет ничего удивительного в том, что именно Гуд занялся проблемой «искусственных нейронных сетей» — искусственным интеллектом, который программирует себя сам. Изначально Гуду казалось, что сверхразумная машина, к созданию которой мы неизбежно придем, будет величайшим благом для человечества.

Подумать только, в наших руках окажется суперинтеллект способный создавать мириады других суперинтеллектов! Мы сможем решить любые проблемы: победим болезни и смерть, обеспечим всеобщее благосостояние, полетим на Марс…

Впрочем, скоро стало понятно, что будущее человечества вовсе не так радужно. Решать соответствующие проблемы будет не человек, а машина, которая намного умнее человека. Тут, понятно, все начинают вспоминать Азимова — мол, объясним машине, что она должна служить нам, а не против нас, и все будет хорошо. Не будет. Если искусственный интеллект развивается путем самообучения, то об Азимове, при всем уважении, придется забыть.

Все дело в том, что нейронное или генетическое программирование предполагает цель, ради которой данный интеллект создается. Любая же умная система, движимая своей целью, сделает все возможное, чтобы избежать гибели (ведь если она «умрет», то ее цель не будет достигнута). То есть искусственный интеллект обязательно и очень скоро обнаружит в себе инстинкт самосохранения, а потом будет постоянно самосовершенствоваться, чтобы сопротивляться всяким попыткам его сдержать или выключить.

А то, что в какой-то момент нам захочется его сдержать, а потом и выключить, сомневаться не приходится. Дело в том, что инстинкт самосохранения вынудит суперинтеллект создавать новые цели, для достижения которых ему потребуются новые ресурсы, а мы с вами — поскольку состоим из молекул и атомов – и есть, в частности и кроме прочего, такой ресурс, проще говоря, кормовая база. Да, нам очень захочется его выключить. Но мы не сможем.

Создатели легендарной «Матрицы» предрекли нашим телам роль батареек, но и это, как выясняется, еще очень гуманный вариант развития событий. Сверхумный интеллект найдет способ получать энергию и менее затратным способом, нас же просто пустят под нано-нож.     

Так выглядит перспективный план… А где сейчас зарождается этот монстр — и это точно не травоядный Google с его милым AlphaGo, — я расскажу в следующий раз.

Читайте также

Комментировать Всего 11 комментариев

Андрей, жутко, но небезосновательно. Хотела спросить, знакомо ли Вам имя Ник Бостром?  Вот неплохая популярная английская статья на эту тему.

  Наш мозг способен решать разнообразные задачи, включая те, которые как бы не могли быть предусмотрены эволюцией. В том числе и создание сложных игр, таких как шахматы или го, а также создание компьютеров и специализированных программ, способных играть в эти игры лучше человека. Что-то случилось особенного, кроме развенчивания очередного мифа после победы компьютера над Каспаровым ? То, что в решении математических задач компьютер давно на много порядков сильнее человека, никого уже давно не удивляет. И то, что с развитием технологии увеличивается и масштаб потенциальных техногенных катастроф, тоже очевидно. Так что у человечества есть шансы исчезнуть еще задолго до того, как оно сможет создать искуственный интеллект, если он и возможен в тех формах, которые мы себе представляем. Поэтому не надо нас пугать неведомыми еще проблемами. Существующих вполне достаточно для сохранения оптимизма )

Ага. Все главное смартфоны из рук не выпускают, не разрешают им разряжаться, и тут вдруг озаботились порабощением людей технологиями...

вообще-то уже давно одни люди управляют другими при помощи технологий. Это, если задуматься, куда страшнее.

Эту реплику поддерживают: Сергей Любимов

Ну да, еще до того как научились делать кнуты и пряники и даже до хлеба и зрелищ ). Каменые топоры, затем медные, бронза, железо, далее везде )

Эту реплику поддерживают: Алена Рева

игра в го будет последним рубежом, отделяющим машинный интеллект от человеческого

Не "последним рубежом", а вообще хоть каким-то приближением к человеческому интеллекту было бы, если бы компьютер, всю свою жизнь учившийся играть в го и ничему другому, заявил: "Мне надоело это ваше го, не хочу больше играть".

До тех пор, пока ничего подобного не происходит, перед нами не самостоятельный интеллект (и даже не обладающее инстинктами животное), а всего лишь удобное оружие. Такой интеллектуальный АКМ. Конечно, это оружие может однажды оказаться Абсолютным (и полюбить как спокойную, так и активную протоплазму). Но эта новость совсем не новая уже лет семьдесят как минимум.

Эту реплику поддерживают: Павел Гуляев, Дмитрий Волченко

Ну да, я тоже подумал об этом, может ли этот агрегат отказаться играть в Го? Это ключевой вопрос. И еще один - кто строил для него противников, на которых он настраивал свои алгоритмы. Кем для этого агрегата были его противники? Уж это-то программисты должны знать? Они как прописали эту базу?

Думаю, программисты все-таки лукавят. Победы они может и не ожидали, но какими средствами она достигнута они вполне понимают, я думаю.

И вообще, можно ли самостоятельно научиться самообучаться? 

кто строил для него противников, на которых он настраивал свои алгоритмы?

- насколько я поняла, он играл сам с собой. Там, строго говоря, не было противников :) Там была последовательность ходов - много последовательностей, одни из которых считались "удачными" ("выигрышными"), другие "неудачными" ("проигрышными"). Это просто комбинаторика, перебор вариантов, - и разумеется, такие вещи машина делает лучше человека, она же не отвлекается на глупости вроде анализа психологии противника ))). Я, конечно, немножко утрирую: чистым перебором вряд ли можно создать набор выигрышных стратегий для такой сложной игры. Наверняка там были какие-то способы оптимизировать этот перебор - способы, предложенные и заложенные людьми-разработчиками.

То есть, я имею в виду, что самообучаться можно - а вот научиться этому вряд ли. Нужно, чтобы тебя научили. Или нужно быть человеком... что одно и то же, правда?

Эту реплику поддерживают: Дмитрий Волченко

Я так понял, Анна, что там все интереснее. Брют форс в игре, где не существует возможности оценки всех осмысленных вариантов на каждом шагу - бессмыслен. Поэтому очевидно, что лучшей стратегией оказывается понижение значения ответа противника в иерархии сигнала на входе. Ключевым становится результат, к которому ведет не ход, но комбинация ходов, не связанных с действиями противника.

Для набора такой статистики действительно требуется большое количество доведенных до конца партий. Но вот противником не может быть сама машина. Противник должен располагаться на входе, то есть быть во всех смыслах вовне. Иначе качество опыта (который в данном случае - ключ к успеху) будет мусорным. Другой должен отличаться. Вход должен быть непрогнозируемым для самообучающихся систем такой сложности. Конечно, я не спец, это просто мое досужее мнение. 

Противник должен располагаться на входе, то есть быть во всех смыслах вовне.

- а что может быть "вовне" по отношению к искусственному интеллекту, для которого не существует "внутри"?

(Я удивляюсь, что специалисты-гуманитарии вообще и психологи в частности как будто недооценивают именно "свои" - гуманитарные, психологические - аспекты проблемы. Констатация того, что ИИ будет "не таким, как мы", мне не кажется заявкой на серьёзное рассуждение: что значит "не таким", и кто сказал, что при этом он вообще "будет"?)

А от "спецов"-программистов есть технические подробности, что там и как.

И ещё в тексте статьи есть хорошая фундаментальная ссылка, но очень незаметная.

 

Новости наших партнеров