Виктор Ерофеев   /  Владислав Иноземцев   /  Александр Баунов   /  Александр Невзоров   /  Андрей Курпатов   /  Михаил Зыгарь   /  Дмитрий Глуховский   /  Ксения Собчак   /  Станислав Белковский   /  Константин Зарубин   /  Валерий Панюшкин   /  Николай Усков   /  Ксения Туркова   /  Артем Рондарев   /  Архив колумнистов  /  Все

Наши колумнисты

Андрей Курпатов

Четвертая мировая. Идиоты

Иллюстрация: GettyImages
Иллюстрация: GettyImages
+T -
Поделиться:

Продолжение. Предыдущие части читайте здесь:

Четвертая мировая. Начало

Четвертая мировая. Монстр

Четвертая мировая. Сценарии

Олигофрения — это болезнь, а вот идиотизм — наше с вами далекое прошлое и, к сожалению, самое ближайшее будущее.

Первые симптомы наступающей дебилизации уже налицо — например, данные соцопросов по России и президентские выборы в США. Да, и министр Лавров высказался вполне определенно: «Дебилы, ...»

Но это только цветочки. Ягодки впереди.  

Как понять загадочный тренд на всеобщее оглупление? Для этого мы рассмотрим удивительный парадокс: проблема в самом интеллекте, который, по природе своей, всегда заточен на убийство.

Рабство, религиозные конфликты, мировые войны, геноцид, террор — все это проделки ума. А теперь мы создаем интеллект, который уничтожит нас всех — как вид, то есть как разумных людей.

Те, кто осознал эту опасность, активно разрабатывают «дружественный» человеку искусственный интеллект. Это заслуживает всяческого уважения. Впрочем, и они, эти умнейшие из людей, не понимают главного: интеллект не может не убивать.

***

Адам и Ева — не выдумка и не ветхозаветная сказка. Это были совершенно реальные люди — из плоти и крови. Правда, жили они не в Раю, а в Африке.

Наша общая мама — каждого из нас, всех ныне живущих людей, — родилась примерно 150 000 лет назад. Наш общий папа, как и положено «принцам на белом коне», серьезно подзадержался — примерно на 80 000 лет (антропологи вычислили «хромосомную Еву» по митохондриальной ДНК, а «хромосомного Адама» — по полиморфизмам Y-хромосомы). Но на генетическом уровне эта романтическая встреча все-таки состоялась.

Спустя еще каких-то 70 000 лет Карл Линней даст потомкам этой счастливой «супружеской пары» общее имя — Homo sapiens. Линней назвал нас разумными, не без основания полагая, что уникальной особенностью этого биологического вида является чрезвычайно мощный, по сравнению с другими homo, интеллект.

К моменту, когда новорожденный Homo sapiens зашагал по планете, ее населяли другие люди — неандертальцы, эректусы, денисовцы и прочие наши близкие родственники (всего как минимум шесть подвидов людей). И все они пали жертвой сообразительности sapiens’a: ничем более не примечательный — низкорослый, голый, не обладающий особой физической силой, но умный примат уничтожил их всех.

***

Доставшееся нам «царствование» над природой не было помазаньем божьим. Этот трон мы завоевали в кровопролитной межвидовой войне с другими людьми: настоящий доисторический геноцид. Конечно, это немножко не та история человечества, какой бы мы хотели ее видеть. Но что поделаешь?  

Наш ум — хитрость, способность к кооперации, производственные умения, — стал оружием массового поражения. Когда же мы избавились от видовых конкурентов и влезли с интеллектуальной приступочки на мировой трон, обозначилась очевидная проблема: оружие есть, и хорошее, а вот простаивает.  

Впрочем, интеллект жертву себе всегда найдет — хоть «внешних врагов», хоть «внутренних». А то, что борьба развернулась сугубо внутри нашего же вида, то есть с врагом очевидно неглупым, пошло интеллекту только на пользу: одно дело — конкурировать с глупыми зверюшками, другое дело — с умным врагом (есть на ком потренироваться).

В борьбе за власть мы развивали в себе чудовищный макиавеллизм: революции и перевороты, репрессии и «враги народа»... Все это надо было еще выдумать! На борьбу же с «внешней угрозой» мы бросили етитскую мощь научной мысли: всё здесь, начиная с китайского пороха и заканчивая хлором и атомной бомбой, — сущее интеллектуальное соревнование.

Если бы Гитлер не был по натуре припадочным истериком и не дал бы своим гениям-евреям разбежаться (а собрал бы их в «шарашку», как Берия, например), мы бы тут с вами сейчас не разговаривали. Но сглупил, к счастью. И проиграл.

***

Итак, атомную бомбу, обещающую нам «гарантированное взаимоуничтожение», мы выдумали. И что теперь? Снова тупик. Начались войны экономические, корпоративные, информационные, геополитические, технологические, кибервойны, наконец. Но ведь это все сплошная эскалация чистого интеллекта!

Впервые в истории человечества страшное оружие под названием «интеллект» отделилось от своего носителя и вышло во внешнюю среду — в цифровое, виртуальное пространство. Это теперь уже не мой ум и не ваш, а живущее само по себе, вне нашего непосредственного контроля, существо.

Мы еще, конечно, можем вырвать вилку из розетки и задавить конкурента в зародыше. Но кто ж на это решится? Никто. Да и зачем? А скоро он сам будет контролировать производство энергии…

Пока этот новый а-ля разумный вид Modus sapiens (назовем его, например, так) — нечто примитивное, относительно простенькое. Впрочем, мы уже его не понимаем: программисты нейронных сетей не знают, что в этом «первичном бульоне» варится и кто из него выродится.

Мне, конечно, скажут: мол, о чем вообще речь, понятно же, что искусственный интеллект никогда не станет человеком, не пройдет теста Тьюринга, да и вообще, где мы, а где эти тупые, не знающие экзистенциальных кризисов машины?

Думаю, примерно в той же логике рассуждали брутальные неандертальцы, завидев первого в своей жизни — хилого, голого, карликоподобного — сапиенса.

***

Штука в том, что искусственному интеллекту совершенно нет нужды становиться человеком, чтобы низвергнуть нас с трона. Это ведь только кажется, что предстоит бой святой и правый. Вовсе нет. Как раз наоборот.  

Прародителям современного человечества вовсе не нужно было становиться неандертальцами, чтобы превратить самих неандертальцев в задачку для будущих антропологов. Напротив, подобная стратегия стала бы фатальной ошибкой.  

Так и искусственному интеллекту вовсе необязательно быть человекообразным, чтобы предать нас истории. Ему, например, вполне достаточно просто обезоружить нас — лишить сначала необходимости, а затем и самой способности думать.

Мышление, по большому счету, лишь поведенческий навык, а всякий навык легко утрачивается. Не следует переоценивать человеческий мозг, эта штука со времен нашего великого африканского исхода ничуть не изменилась — весьма, надо признать, примитивный агрегат.

Да, у мозга человека большой потенциал к обучению, и да, наша культура (язык и прочие знания о мире) — всё, что впихивают в нас первые 20 лет жизни, — штука сложная. Но если наш мозг не дрессировать, если ничего в него вот так — силой — не впихивать, мы останемся милым приматом, ничем не отличающимся от шимпанзе.

Так что речь не про отдельно взятого «маугли» — целые цивилизации бесследно исчезали с лица земли. И не просто какие-нибудь критяне со своим «критским письмом», но и весь Древний Египет, Древняя Греция, Древний Рим.

Мы хоть, подобно Карлу Линнею, и пользуемся латынью, но не знаем, как она звучала. Не знаем, потому что всю эту культуру просто ликвидировали. Остались только поросшие сорняком развалины, да переписанные когда-то арабами манускрипты.

***   

Воевать с нами в лоб, действительно, бессмысленно. Но искусственный интеллект, судя по всему, и не будет этого делать. Действуя по принципу «мягкой силы», он просто лишит нас соображаловки, а мы на этом и кончимся.  

Он уже научился за нас считать и писать — просто диктуй, а он посчитает, запишет, отправит, переведет на любой язык, если нужно. «Рублиштейна! Рублиштейна!» (© С. Шнуров) Скоро он станет неплохим собеседником, причем на любую тему — IT-компании активно работают над созданием таких ботов. Он уже сочиняет музыку — можете послушать очаровательную Emily Howell (просто скачайте в iTunes) или, например, Google Magenta Music. Он пишет статьи, сценарии к фильмам и даже художественную литературу большой формы.

На глазах у изумленной, но невнимательной публики исчезают целые области человеческой деятельности, превращаясь в функционал искусственного интеллекта. Автопилоты, например, не просто уничтожат профессию водителя, они уничтожат всякое наше знание о вождении. Как водить машину, будут знать только компьютеры Tesla и Google со товарищи.

Впрочем, исключению подлежит всякий «человеческий фактор», не только на транспорте. Понятно, что нам не нужны, например, врачебные ошибки. И конечно, скоро компьютеры нас от них избавят. Я уже рассказывал о сообразительной машине IBM Watson — той, что обыгрывает людей в Jeopardy!. Но эта игра — лишь рекламный трюк, потехи ради.

На самом деле Watson призван полностью заменить врачей и уже неплохо с этой задачей справляется. Представьте себе капсулу: вы в нее залезаете, она вас сканирует, делает расчет с учетом всех существующих медицинских знаний и выдает вам индивидуальное лекарство. Ни один врач на это не способен и никогда способен не будет. Тогда зачем он нужен? Все в сад, товарищи!

Больше того скажу: скоро нам даже для секса собственный интеллект не понадобится. Пока мы все еще им активно пользуемся, это ведь универсальное средство обольщения. Но скоро качество виртуального секса будет несопоставимо выше, чем любой реальный секс с живыми людьми.

Нам предложат идеальных партнеров, которые будут хотеть нас всегда и в любом виде. Ложишься в капсулу и делаешь (или с тобой делают) все, о чем можно только мечтать. И это, заметьте, без выноса мозга, обязательств, риска беременности, инфекций... О чем тут думать-то?!

Думать будет не нужно совершенно. Даже о том, в какую капсулу залезать, потому что, скорее всего, это будет одна-единственная капсула — полного цикла: с автопилотом, жизнеобеспечением, медицинскими услугами и массой развлечений, которые нам пока даже не снились.

«Матрица» — какое все-таки гениальное сделали кино братья-сестры Вачовски! Одного только не учли создатели футурологического шедевра: не поможет нашему Нео «красная таблетка», он даже выбрать ее осознанно не сможет, потому что будет клиническим идиотом — нормальным таким кроманьонцем. Ну, или Адамом, если кому-то так больше нравится.

***   

Правда в том, что нет никакой такой особенной — человеческой — интеллектуальной деятельности, которую бы мы осуществляли посредством некой трансцендентальной связи с Божественным Космосом. Нет ни того, ни другого, ни третьего. Есть просто навыки решения тех или иных вполне себе утилитарных задач. И поверьте, решать эти задачи куда лучше без людей — устающих, допускающих ошибки и еще требующих к себе особого отношения.

Люди как средство производства больше цивилизации не понадобятся. Впрочем, это, понятно, будет уже другая цивилизация. Не плохая и не хорошая, а просто другая. Мы в свое время уничтожили других людей за счет своего разума, теперь созданный нами разум уничтожит нас — как вид, как тех самых сапиенсов. Ведь даже если победитель окажется «дружественным» и сохранит нам жизнь, как сапиенсы мы существовать перестанем.

Некоторые почему-то считают меня новым луддитом. Упаси господь! Я отнюдь не против искусственного интеллекта, научного прогресса и обещанной нам — прежними фантастами и нынешними учеными — технологической сингулярности. Этот «новый мир» представляется мне вполне «дивным», и в соответствующую капсулу, если верить Курцвейлу, я даже смогу успеть (в 2045 году мне будет всего лишь 71 год).

Проблему я вижу лишь в одном пункте, о чем уже неоднократно писал на «Снобе»: мне хочется сохранить способность получать интеллектуальное удовольствие. На эту жертву я пока совершенно не готов, а риск, к сожалению, слишком велик. Но о том, как именно мы все можем, неожиданно для себя, превратиться в идиотов, я, пожалуй, расскажу как-нибудь в другой раз.

Всего доброго!

Читайте также

Комментировать Всего 20 комментариев

----- Борис Цейтлин -----

Дорогой Андрей Владимирович, при том, что текст у Вас, как всегда, остроумный, нахожу основание придраться вот к чему: сперва Вы пишете, что издревле ум "заточен" на борьбу, а под конец - что он источник интеллектуального удовольствия. Нет ли тут противоречия? И  почему Вы уверены, что второй его функции  грозит  отмирание? Коль Вы сам, по Вашему признанию, ее цените, не выходит ли так, что из рода человеческого себя исключаете?

Эту реплику поддерживают: Михаил Аркадьев

придраться вот к чему...

Дорогой Борис Михайлович, спасибо за комплименты и прошу прощения за задержку с ответом…

Относительно усмотренного Вами «противоречия» выражу свои сомнения. Его тут, на мой взгляд, нет. Для эволюционного развития любой функции, в том числе и интеллектуальной, необходимы механизмы подкрепления. В случае мышления – это «ага-эффект», о котором я уже достаточно подробно рассказывал в статье «Секс с вампиром». Когда в мозгу складывается интеллектуальный объект (завершается соответствующий интеллектуальный «гештальта»), происходит выделение дофамина, что вызывает у человека чувство удовольствия. Поэтому «интеллектуальные удовольствия» – это нормально, и чем сложнее интеллектуальные объекты, которые мы складываем в своей голове, тем это удовольствие больше (точнее больше выделяется дофамина).

То, что сам по себе интеллект – «сущность», так сказать, бесчувственная и не испытывающая сочувствия, мне кажется, тоже вполне очевидно. Так, например, хорошо известно, что лица, страдающие определенными видами психопатий с асоциальным поведением (в популярной литературе их еще называют «маньяками»), совершают свои преступления именно по причине отсутствия у них способности к эмпатии (психиатры говорят об «эмоциональной сглаженности»). Будучи интеллектуально не только сохранными, но иногда и чертовски сообразительными, они не испытывают сочувствия к своим жертвам. Интеллект, иными словами, и наши «человеческие» чувства – это вещи разного порядка.

Относительно же «отмирания», то речь в статье идет о том, что если мы лишимся собственного интеллекта – вернемся в свое нормальное акультурное идиотское состояние, то и получать интеллектуальные удовольствия мы уже не сможем. Соответственно, я не против технологий, но пока не вполне понятно, как сохранить мощную интеллектуальную функцию (и соответственно, способность получать «интеллектуальное удовольствие»), если жизненные обстоятельства не будут способствовать ее тренировке и развитию.

Вот как-то так… 

----- Борис Цейтлин: -----

Почему не может получиться так, что мыслить людям когда-нибудь понравится исключительно ради "ага-эффекта", безотносительно к практическому выходу? Ведь сам по себе кайф - это тоже хороший стимул, примеры тому наверняка есть и в животном мире. 

исключительно ради "ага-эффекта"

Дорогой Борис Михайлович, не «когда-нибудь», а уже и всегда так было! Это же нейрофизиология мозга: мы думаем лишь потому, что есть этот эффект и возникает это подкрепление (тот самый «кайф»). Мозг ничего не делает просто так: если он что-то делает, то обязательно под этим лежит какая-то физиология, а потому только на нее и приходится рассчитывать. Опасения же я высказываю другого рода – если, например, мы разучимся создавать сложные интеллектуальные объекты, то есть потеряем способность к понимаю сложного, – заметим ли мы, что поглупели? 

Мне кажется, начало конца мы положили уничтожив естесственный отбор, сломав сопротивление среды и прочие законы природы.  Так что на следующей ступени развития мы будем представлять из себя гибрид человека и машины, наподобие боргов из стартрека.  И останемся таковыми покуда человеческие мозги будут лучше справляться с эвристическими алгоритмами, а там ...  но это  удалённая перспектива.  В ближайшей мне интереснее чем мы займем 9-12 млрд человек в условиях автоматизации большинства видов человеческой деятельности.  

Дорогая Таня, тут есть некоторый реальный парадокс, мимо которого невозможно пройти. Если предположить , что Homo sapiens sapiens вылупился благодаря естественному отбору (допустим), то тот момент, когда он вылупился (то есть, примерно, в палеолите) он УЖЕ был машиной для уничтожения естественного отбора, и  слома сопротивления среды. Это не было его выбором. Это структурное свойство подвида. Природа создала априродное существо. Собственно, именно этот встроенный в Homo sapiens sapiens (то есть в каждого из нас) парадокс и является причиной всех проблем, в том числе описываемых Андреем Курпатовым. 

Эту реплику поддерживают: Таня Ратклифф

С учётом растущего количества данных о том, насколько благотворное влияние оказывает природа в том числе и на наш мозг, механизм очень пикантный.  Особенно в сочетании с самоназванием "человек разумный".

Таня, "человек разумный" - просто не вполне точный перевод с латыни. Тут особенно важно удвоение, то есть саморефернтность "sapiens sapiens", то есть "мыслящий мысль". В этом вся заковыка. Эта встроенная то ли природой, то ли непонятно кем и чем в человека самореферентность "мысли о мысли", "языка о языке", "речи о речи" и делает человека машиной для уничтожения среды. Он же есть  и машина познания и высшего творчества. Этот парадокс неустраним, пока вид существует. 

Абстрактное мышление?  Ну, казалось бы, отличный механизм посмотреть на себя со стороны, осмыслить свои действия и осознать наиболее вероятный исход.  Но нет, старательно пилим сук, на котором сидим.

Таня, да, да! Рефлексия, абстракция и ЕСТЬ пиление! И кроме выпиливания всяких полезных вещей одновременно и пиления  сука , на котором сидим:) Все чуть сложнее. Рефлексия, саморефернтность языка связана со свободой. Свобода выбора и рефлексия встроена в человека через язык буквально как машина выбора. От нее можно убежать только в самоубийство. Что и происходит регулярно как с отдельными индивидами, так и с сообществами. Свобода выбора (я сейчас НЕ про социальные свободы) - это неизбежность альтернатив (от простейших бытовых до глобальных) и неизбежная объективная ответственность за принятие решения, то есть неизбежность последствий, тех или иных. Это крайне неприятно, и человек делает ВСЕ возможное, причем чаще всего бессознательно, чтобы избежать и решений и ответственности (от бытовых до глобальных) . Но улизнуть, пока ты жив,  невозможно. Отсюда вся историческая кровавая  каша. Но отсюда же религия,  великое искусство и наука.   

априродное существо

Дорогой Михаил Александрович, Татьяна!

Не могу не согласиться с тезисом относительно «априродности» интеллекта – конечно, он, сам по себе, не имеет в себе ни химии, ни биологии, ни даже физики, хотя эксплуатирует для собственного воспроизводства именно все эти материальные субстанции.

С другой стороны, я бы обратил внимание на ошибку, которая вкрадывается в наши рассуждения, когда мы, вдруг, по неизвестной причине (на самом деле, это просто языковая игра), начинаем мыслить эволюцию как чисто биологическое («природное») явление. Вообще говоря, вякая жизнь – это, в некотором роде, условность. Да, мы с вами что-то считаем живым, а что-то неживым, но это, так сказать, наше частное мнение. Эволюция – это принцип, который может проявляться как в биологических системах, так и во вне биологических.

Вселенная очевидно эволюционировала даже до появления в ней всякой жизни (если вообще считать это событие по меркам Вселенной заслуживающим хоть какого-то внимания). И даже если взглянуть на нашу собственную эволюцию, то, например, Р.Докинз предлагает нам «абиологическую» биологическую эволюцию со своей концепцией «эгоистического гена». Если принять его логику рассуждений, нашу биологическую эволюцию двигает чистая химия, а биологические объекты – это лишь контейнеры для переноски химических элементов (наших генов, собственно говоря).

Поэтому я, при всем уважении, не могу разделить мнения, что интеллект уничтожает эволюцию. Нет, она продолжается, хотя и в других формах – возможно, и небиологических. А то, что виды вымирают – это вообще рядовое явление, и мы в этом смысле никакого существенного исключения собой не представляем, и конечно никаких миллиардов будущих лет у нас в запасе нет и не будет.  

Возможно, интеллект и впрямь сформировался как инструмент убийства. Однако, он породил свободу выбора, которую машине  привить непонятно как. В том числе, свободу выбора "убивать - не убивать". Человек конечно же склонен выбрасывать свои свободы в помойку, вкючая свободу выбора. Но ведь склонен потом и лазать по помойкам, в поисках выброшенных свобод. Даже находил обратно, бывали случаи.

Давайте не забывать, что отказ от свободы есть акт свободного выбора, Азгар. 

Дык кто бы спорил. Однако, отказ от свободы не влечет за собой чаемого отказа от ответственностей, ради которого собственно от свобод и бегут. Ответственность по-прежнему никуда не отвязывается и преследует индивида, как консервная банка, привязанная к кошачьему хвосту.  В контексте опять же чаемого порабощения машинами, искусственный интеллект вряд ли столкнется  и с таким выбором, и с такой проблемой. Ответственность опять прилетит к индивиду и отправит его собирать по помойкам разбросанные свободы.

в поисках выброшенных свобод

Глубокоуважаемый Азгар!

К сожалению, наши традиционные представления о «свободе выбора», якобы свойственной нашему интеллекту, не подтверждаются данными современной науки. По этому поводу у нас как раз была дискуссия на Снобе с философом Дмитрием Волковым (этот текст назывался «Свобода в опасности»). Наше сознательное «я» лишь свидетельствует решения, которые принял за него психических аппарат соответствующего индивида.

Впрочем, здесь снова «языковая игра»: когда мы говорим о «свободе», как о «свободе прав» – это уже, так сказать, другая «материя», это вопрос социальных отношений социальных животных. Так что, как мне представляется, это вообще два разных вопроса: первый касается того, что наш интеллект в действительности ничего не выбирает, а лишь обслуживает потребности индивида (биологического индивида с налетом социальности), и второй вопрос – это то, как мы представляем себе идеал социальных отношений, где «права личности» включают некую «свободу» социального выбора.

Обнаружить точки пересечения данных вопросов крайне сложно. 

Большое спасибо за наводку! Изучу и вернусь к обсуждению в той части, которую сумею понять.

Александр Янов Комментарий удален автором

 

Новости наших партнеров