Четвертая мировая. Конец
Продолжение. Предыдущие части читайте здесь:
Четвертая мировая. Сценарии
Это случилось в небе над Атлантическим океаном 1 июня 2009 года.
Самолет авиакомпании Air France перевозил более двухсот пассажиров, которым зачем-то понадобилось лететь этим злополучным рейсом из Бразилии в Африку.
Поначалу все шло просто идеально. Но погода испортилась и датчики скорости, расположенные на носу самолета, заледенели. Компьютер-автопилот был к этому не готов и передал управление судна летчикам.
Те замешкались, растерялись, совершили несколько взаимоисключающих действий, и авиалайнер, не имевший никаких проблем или повреждений (если не считать тот самый датчик скорости), послушно рухнул в океан.
Этой печально известной историей Дэвид Минделл начинает свою книгу «Восстание машин отменяется!». И далее последовательно убеждает читателей в том, что нам не нужно опасаться всеобщей роботизации, потому что они, мол, роботы, все равно не справятся.
Но мне кажется, что Дэвид совершает логическую ошибку. Это не роботы не справятся, это мы не справимся. Мы уже не справляемся с той технологической цивилизацией, которую создаем.
Будущее предсказать невозможно. Все, что нам остается, — наблюдать за развитием закономерностей и активностью главных действующих лиц этой большой и пугающей ролевой игры
Случившаяся над Атлантическим океаном трагедия целиком и полностью на совести «человеческого фактора».
Это человек спроектировал датчики скорости, отказавшие из-за оледенения. Это человек так запрограммировал компьютер, что тот отключил автопилот. Наконец, это летчики (тоже, понятно, люди) потеряли навык управления воздушным судном, привычно полагаясь на автопилот.
Так что проблема не в роботах. Проблема в том, что этих роботов создаем мы. В напряженной конкурентной борьбе лучшие компании мира строят сейчас один большой авиалайнер — нашу технологическую цивилизацию — с такими вот датчиками и автопилотами. Мы же тем временем дружно превращаемся в тех самых незадачливых летчиков, не знающих, что им делать, если что-то пойдет не так.
А что-то точно пойдет не так. В этом можно не сомневаться. Достаточно посмотреть на фигурантов этого дела. Но, может, нам рано беспокоиться? «Сказочный» авиалайнер нашего «светлого будущего» еще не достроен.
Да, но все мы уже на этом борту, а сам он почти оторвался от взлетной полосы. И сейчас я попробую это показать.
Конечно, будущее предсказать невозможно. Оно полно сюрпризов. Все, что нам остается, — это лишь наблюдать за развитием обозначившихся закономерностей и следить за активностью главных действующих лиц этой большой и пугающей ролевой игры.
Главные игроки грядущей давки на борту нашего «авиалайнера»:
государственные машины, готовящиеся к полной цифровизации своих граждан, с одной стороны, и к кибервойне с прочими такими машинами — с другой;
транснациональные корпорации в сфере IT, интернета и новых технологий (включая биотехнологии, конечно), стремящиеся к максимальной монополизации — каждая в своей сфере;
а также массовые партизанские отряды — хакеров, криптовалютчиков, шифропанков, бойцов теневого интернета и т. д., и т. п., полностью лишенные какой-либо социальной ответственности (по крайней мере, в традиционном ее понимании).
Понятно, что каждая из этих групп действует в собственных интересах.
Государства
Государственные машины — лицемерные, забюрократизированные, коррумпированные, нефункциональные — видят в интернете инструмент контроля населения. А сейчас это стало актуально как никогда.
Случилось то, к чему никто не был готов: традиционные СМИ больше не создают единой платформы для общественной дискуссии, не формируют информационную повестку. Интернет, который, как кажется, пришел на смену прежним СМИ, работает принципиально иначе — это буквально гомон голосов. Как им управлять?
Единственный способ — зафиксировать каждого в сети, привязать, так сказать, к его аккаунту. Уже сейчас, если вы хотите получить визу на въезд в США, у вас попросят доступ к вашему профилю в социальных сетях. Скоро этот профиль и вовсе станет нашим новым идентификационным номером, «личным делом». Но этого мало.
Да, вы что-то сами рассказываете о себе в сети, но вы еще и что-то делаете в ней: заходите на какие-то сайты, с кем-то переписываетесь в мессенджерах и т. д. — и это куда интереснее! И именно в этой плоскости развернется сейчас война между государственными машинами и транснациональными корпорациями, контролирующими интернет.
Уже в 1991 году (то есть еще даже до введения WWW!) небезызвестный Джо Байден предложил сенату законопроект, согласно которому поставщики электронных средств связи должны передавать правительству личные данные пользователей.
Так что, поверьте, проблемы Павла Дурова с его Telegram в Иране и России — это только верхушка айсберга и маркетинговая стратегия самого Павла. В действительность это проблема общая для всех — Цукербергов, Бринов, Гейтсов, Куков et cetera.
На всех них у государства есть управа, и она называется «угроза национальной безопасности». Причем «угрозы» эти растут как на дрожжах. Хорошее прикрытие, которым государство маскирует и оправдывает свое желание перехватить контроль за гражданами.
Интернет-бизнес, IT-бизнес, бизнес новых технологий уже давно не просто бизнес. Это новые хозяева планеты
Выглядит все очень пристойно:
Во-первых, у нас идет Третья мировая война (с террором), халифат-малифат не дремлет, поэтому государству надо за всеми следить.
Во-вторых, если кто не в курсе, по всему миру шалят хакеры и кибертеррористы, так что будьте любезны…
В-третьих, намечается кибервойна, а это значит, что можно уже ссылаться на «законы военного времени». США не так давно затеяли кибервойну с Ираном, сейчас готовятся воевать с Россией (и это взаимно). А Китай и вовсе висит мрачной тенью над этой схваткой, угрожая всему миру разом. Впрочем, там ведь еще Израиль, Великобритания, страны Персидского залива и далее по списку.
Разве не является все это поводом прижать свободолюбивых бизнесменов Силиконовой и прочих долин к государственному ногтю? Где явки и пароли? То бишь сервера, оптоволоконные трассы, данные о пользователях и их активности в сети? Каковы уязвимости нулевого уровня у операционных систем и прочего ПО?
Правда в том, что мы не знаем и сотой доли происходящего сейчас под ковром, где эти бульдоги схватились не на жизнь, а на смерть.
Корпорации
Интернет-бизнес, IT-бизнес, бизнес новых технологий уже давно не просто бизнес. Это новые хозяева планеты. Они взяли под контроль нас с вами — мирового потребителя и мировой электорат (не нужно думать, что мы интересуем кого-то в каком-то другом качестве). А поэтому все, о чем они реально мечтают, — это стать новым транснациональным правительством.
Они смотрят на государственных чиновников — от президента до последнего руководителя какой-нибудь захудалой контрольной службы — как на безнадежно архаичных, интеллектуально отсталых и при этом предельно надоедливых мух.
— Кто все эти люди?! — недоуменно спрашивают себя владельцы миллиардных армий пользователей. — Кем они себя воображают?!
Бизнес, вообще говоря, ненавидит любые границы, а эти парни и вовсе плевать на них хотели. Зачем им все эти бесчисленные местечковые инструкции и запреты, бесконечные претензии по налогам и штрафы за монополизм? Что это вообще такое?! Да, они мирятся пока со старым миропорядком. Но это лишь вопрос времени.
Теневой интернет полностью меняет психологию его завсегдатаев. Там, где государства еще сутяжничают из-за границ, эти парни границ просто не видят
Пара-тройка новых технологических прорывов (таких как создание, например, квантового компьютера, который обрушит действующие принципы шифрования данных) — и ситуация изменится кардинально.
Дело за малым. Но ведь и сейчас уже никто не сможет отказаться от интернета и его сервисов. Сами государственные машины без этого работать не будут. То есть интернет отключить нельзя, а если его нельзя отключить — у кого власть?
Пока со стороны этих новых транснациональных сверхдержав возможны мелкие уступки прежним государственным институтам, секретное сотрудничество с правительствами в рамках нарастающих кибервойн, игра в соблюдение правил и прочее «водное перемирие». Но не надо думать, что это будет продолжаться вечно. Чего ради?
Партизаны
Цифровые партизаны, будучи анархистами до мозга костей, действуя несистемно, разрозненно и асоциально, — лишь вишенка на этом безумном торте. Но вишенка с крепкой косточкой.
Вообще говоря, теневой интернет полностью меняет психологию его завсегдатаев. Там, где государства и транснациональные корпорации еще сутяжничают из-за границ, эти парни границ просто не видят.
Они прекрасно знают, что у представителей двух других лагерей рыльце в пушку по самую макушку. Поэтому прекрасный публичный имидж соответствующей публики раздражает «бойцов Сопротивления» сильнее, чем быка красная тряпка.
Ассанджи, Сноудены, Мэннинги, Сатоси Накомото, Маккинноны и т. д. — лишь публичные герои этой необъявленной войны с сильными мира сего. Они предают огласке темные правительственные делишки, создают независимую от правительств криптовалюту, взламывают базы с военными секретами и реализуют другие «социально значимые проекты».
Но любой анархизм хоть и начинается, как правило, с красивой идеи о полной свободе и всеобщем либерализме, заканчивается почти всегда одинаково — разгульным бандитизмом имени Нестора Ивановича Махно.
В начале прошлого века наши прабабушки и прадедушки самозабвенно пели «Боже, Царя храни!», а через 30 лет, благодаря «советским газетам», строчили доносы на «врагов народа»
Идеалисты-идеологи создают новые технические решения, проламывают бреши в существующем миропорядке, создают прецедент немеркнущей славы, а им на смену приходят лишенные всякой идеологии любители «красивой жизни». И начинается «любо, братцы, любо!»
Это, знаете, как младореформаторы во главе с Егором Тимуровичем: они осуществили героическую и необходимую стране либерализацию рынка, а улицы наполнились бандитами в малиновых пиджаках. Точно так же Ассандж со Сноуденом — с одной стороны, и какой-нибудь Шалтай-Болтай и создатели WannaCry — с другой. Вроде бы про одно и то же, но по-разному.
Хакеры всех мастей, киберпреступность, супертрояны-шантажисты — третья сила и пятая колонна Четвертой мировой войны. И в каком месте эта психопатическая пассионарность рванет по принципу «эффекта бабочки», предсказать невозможно. Но потенциал есть.
Примерно так, на мой взгляд, выглядят сейчас датчики и автопилоты нашего сногсшибательного авиалайнера. А что там с летчиками?
Этим вопросом я занимаюсь профессионально и писал о нарастающей «информационной псевдодебильности» уже не раз (здесь, здесь и здесь). Так что не буду повторяться. Скажу лишь о самом главном. Опять-таки — на мой, на сей раз профессиональный, взгляд.
Мы не отдаем себе отчета в том, насколько сильно на нас влияет информация. В начале прошлого века наши прабабушки и прадедушки самозабвенно пели «Боже, Царя храни!», а через 30 лет, благодаря «советским газетам», строчили доносы на «врагов народа», стреляли в подвалах Лубянки и устраивали разносы «контрреволюционным элементам» на комсомольских и партийных собраниях.
Еще в середине 80-х никто не мог поверить, что Союз «нерушимых» развалится, а КПСС сгинет в небытие. Но «Взгляд», «Пятое колесо», «МК», «КП»… И невозможное стало возможным.
Мы — плоть от плоти — продукт информационной среды. А сейчас она изменилась не просто содержательно, как это происходило на прежних культурных сломах, но и структурно: современный человек информационно зависим до степени патологии. Отсутствие доступа к интернету вызывает у современных подростков (да и не только у них) состояние самой настоящей ломки.
C нами определенно что-то не так, о чем со всей очевидностью свидетельствует все нарастающий дефицит мотивации
Наш мозг не справляется с надвигающимся информационным штормом, мышление уплощается и примитивизируется. Вкупе же с утратой всяких социальных иерархий и при ложной трактовке понятия «свобода мнений» («личное мнение» должно подкрепляться структурой фактов, а не личным же мнением) это приводит к тотальной неспособности к обучению и развитию.
Но, конечно, мы этого не замечаем! Как тут заметишь, если мы находимся в столь комфортной среде обитания? Мы снизу доверху упакованы всеми возможными сервисами — информационными, техническими, развлекательными, финансовыми и т. д. Мы и не можем заметить, что с нами что-то не так.
Но с нами определенно что-то не так, о чем со всей очевидностью свидетельствует все нарастающий дефицит мотивации. Мы не знаем, чего хотим, а если и мечтаем о чем-то (сугубо теоретически), то не готовы платить за это собственным напряжением. Мы прокрастинируем и скучаем. Не понимаем, зачем живем и какой в этом смысл. Наши социальные связи превратились в бессмысленное виртуальное бормотание и разглядывание.
Не знаю, как вы, но я бы не доверил таким пилотам даже управление самокатом.
Цикл статей о «Четвертой мировой» я начал с глупой страшилки. Начал с нее просто потому, что многие респектабельные ученые всерьез верят в будущее противостояние человека и искусственного интеллекта.
Да, это представляется безумной фантазией. Но наверное, не надо недооценивать и прогресс, и риски, с ним связанные. Если бы вы сказали свидетелю первого полета братьев Райт, что через каких-то 70 лет люди будут гулять по Луне, а еще через полвека планировать полет на Марс, то он принял бы вас за умалишенного.
А если бы вы рассказали ему, что он, знающий только о радио и телеграфе, сможет в скором будущем установить видеосвязь с любым человеком в любой точке земного шара одним касанием к прямоугольной коробочке или, например, мгновенно получить доступ к любой информации, то он бы просто вас не понял.
Нам только кажется, что мы можем прогнозировать будущее. Нам только кажется, что мы знаем, что может быть, а чего быть не может. Факты говорят о том, что даже самые безумные идеи иногда воплощаются в реальность, причем в еще более безумных формах.
Уже сейчас искусственный интеллект способен решать сложнейшие математические задачи, самостоятельно выводить естественные физические законы, создавать произведения искусства и прогнозировать человеческое поведение. А он едва встал на ноги.
Если верить Реймонду Курцвейлу, то уже к 2045 году искусственный интеллект сможет сам создавать программы, которые позволят ему решать задачи, им же самим поставленные. Именно в этот момент мы и пересечем линию так называемой «технологической сингулярности», когда человек компьютеру будет уже не нужен.
Одни исследователи искусственного интеллекта считают, что в этот момент наступит Рай на земле (и, видимо, коммунизм). Другие — что в этот самый миг придет конец человечеству. Причем буквально: машины просто уничтожат нас наноножом.
Но мне кажется, до этого все-таки не дойдет. Возможно, все будет куда хуже. По крайней мере, не так красиво, как нам рассказывают.
P. S. Читатели часто меня ругают, что я, мол, рисую мрачные перспективы и не предлагаю никакого выхода. Но выход, как мне представляется, напрашивается сам собой: все, что мы должны сейчас делать (и не только сейчас), — это начать думать. Понять механизмы собственного мышления и заставить свой мозг работать: избавиться от иллюзий, увидеть закономерности, определяющие действительную реальность, и начать действовать. Конечно, думающих всегда меньшинство. Но именно от этого меньшинства и зависит будущее всего человечества.