Все записи
МОЙ ВЫБОР 21:08  /  6.06.18

3808просмотров

О будущем искусственного интеллекта. По поводу выступления Митио Каку.

+T -
Поделиться:

 Митио Каку — американский физик и всемирно известный футуролог. Я всегда с воодушевлением и интеллектуальной радостью читал его книги:    "Физика невозможного","Параллельные миры",  "Будущее физики", "Будущее разума" и др.. Именно поэтому меня удивило его выступление на  недавнем Петербургском международном экономическом форуме по теме: "Цифровое будущее: Стоит ли нам бояться роботов?" (Digital Future: Should We Fear Robots?"). В русскоязычной версии: "Об искусственном интеллекте, роботах и способах их применения".[1] 

                                           1. Робот с тараканьим разумом.

Через всё выступление М. Каку проходит лейтмотив: искусственный интеллект — это роботы. Такова презумпция всех его утверждений:  искусственный разум заключен в отдельном техническом организме, как мозг — в голове отдельного индивида. "У роботов и искусственного интеллекта есть три ограничения". Уже в этой фразе между роботами и ИИ поставлен знак равенства. И дальше, как о высшем достижении ИИ, Каку рассказывает об одном  из умнейших роботов в мире, Asimo, созданном в Японии, — и с иронией отмечает, что пока что у него разум не более  тараканьего.

По мнению Каку,   лишь к концу века роботы могут достигнуть уровня  интеллекта, сравнимого с обезьяньим. Но реально опасными они станут лишь в 22 в., когда смогут вынимать из своего мозга чипы, запрещающие им убийство людей.

Странные рассуждения! От такого представления о будущем веет наивным и унылым  антропоморфизмом. Мы ведь знаем, что разум человечества не есть простое слагаемое индивидуальных разумов, — он социальный, сетевой. В этом нельзя не согласиться с К. Марксом: "...сущность человека не есть абстракт, присущий отдельному индивиду. В своей действительности она есть совокупность всех общественных отношений".[2] 

Именно электронная сеть наглядно позволяет обнаружить новое качество разума как коммуникативно-информационной силы, которая обладает собственными формами воплощения и не заключена в голове отдельного человека. Тем более странно представлять искусственный разум в виде  отдельной машины — шагающего, танцующего или играющего в футбол робота.  Очевидно, что ИИ — это особая ментальная сверхструктура, которую мы не можем локализовать как отдельный механизм,  как не можем локализовать виртуальное пространство. ИИ действует как совокупность программ и алгоритмов, способных к самообучению и саморепродукции на все более высоких уровнях производства и переработки информации.   Поэтому рассуждать об уровне развития ИИ на примере отдельно взятого робота, даже самого продвинутого, сравнивая его с уровнем развития мозга у отдельного индивида или особи, будь то  человек или насекомое, — это анахронизм, словно бы перенесенный из научной фантастики 1960-х-70-х гг.

 Илон Маск уверен, что цифровая интеллектуальная революция произойдет в ближайшие годы. "Мы стремительно продвигаемся к созданию цифрового суперинтеллекта, который намного превосходит любого человека, я думаю, что это довольно очевидно, — сказал Маск. — У нас есть лет пять".[3]  А у Каку речь шла всего лишь о разуме таракана!

 Маск пошел еще дальше и  назвал человечество "биологическим загрузчиком для цифрового разума. К сожалению, это все более и более вероятно".[4]  Предзнаменования апокалиптических последствий техно-интеллектуального взрыва наиболее последовательно обобщены в известных книгах Джеймса Баррата "Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens" и Юваля Ноя Харари «Homo Deus: Краткая история завтрашнего дня».  Торжество алгоритмов   и "больших данных", т.е. самодовлеющего информационного процесса грозит вытеснить человека из будущей истории разума. Согласно Харари, внутреннее измерение человека, его воля, желание, страсть, вера, будут переданы в ведение суперпрограмм, управляющих всем развитием цивилизации, да и природы.

Ускоренное развитие самосозидающего системного ИИ может вызывать  серьезнейшие опасения за судьбу человечества. Но неужели не остается никаких надежд на миролюбие этого восходящего универсального разума? Может быть, именно его развитие в виде всеобъемлющих программ и сетей приведет к отказу от эгоизма и агрессии, свойственных индивидуальному человеческому разуму, ведущему борьбу за выживание отдельного организма в природе?

От множества ученых, технологов, предпринимателей: Стивена Хокинга, Илона Маска, Билла Гейтса, Сергея Брина, Ника Бострома, Джеймса Баррата, Юваля Харари — мы уже знаем о том, чем  нам угрожает  ИИ.[5]  Поговорим о надежде, хотя бы в рамках одной из гипотез.

 

                                    2. Ноовитализм. Широкоумные дубравы.

Как признает современная биосемиотика, знаковые и рефлективные процессы свойственны всем формам живого, включая растения. Следовательно, коллективный искусственный разум, возникающий в нейро-электронных сетях, может быть в каком-то отношении близок растительному царству.  Биосемиотика и биогерменевтика рассматривают жизнь и живые организмы как знаковые процессы и отношения, способные к самореференции и самоорганизации (аутопоэзис)[6].  В каждой клетке и в организме в целом постоянно происходят чтение, записывание, перезаписывание, создание новых текстов и бесконечный "разговор" на языке генетического кода макромолекул (нуклеиновых кислот и белков) и их взаимодействий.

 Такой биосферно-семиосферный подход позволяет по-новому рассмотреть возможности  искусственного интеллекта. Он может оказаться более родственным естественному интеллекту, чем казалось раньше, когда последний ограничивался человеческим разумом. Знаковые процессы в квантовых компьютерах и электронных сетях могут обнаружить сходство с вегетацией — на несравненно более высоком уровне скоростной обработки и передачи информации. Машинное мышление может быть ближе вегетативному мышлению, не-тоталитарному и не-инструментальному, поскольку оно не укоренено в эгоцентрическом субъекте [7].

Отсюда синтетическая концепция ноовитализма, или ноовегетации, сращивающая искусственный разум с деятельностью живых систем  (noovitalism, noovegetation; noo, разум + vitа, жизнь).

Как полагает Ю. Лотман, "если человеку удастся создать полноценный искусственный разум, то мы менее всего заинтересованы, чтобы этот разум был точной копией человеческого. Определение Тьюринга, согласно которому разумным следует признать такое устройство, при сколь угодно длительном общении с которым мы не отличим его от человека, психологически понятно в своем антропоцентризме, но теоретически малоубедительно"[8]

Можно предположить, что техника будущего — это своего рода умная вегетация, пронизывающая всю вселенную и организующая в ней смысловые процессы совершенно иначе, чем в животно-человеческом мире, а именно — в коммуникативно-кооперативном модусе, без кровавых битв и деструктивного эгоизма (группового и индивидуального). Не исключено, что смысл эволюционного процесса, от животных к человеку, — возвращение, уже через  технику как человеческое творение, к жизни как мирной вегетации смыслов.

Для их производства не нужны эксцессы индивидуалистического сознания, которое Достоевский в образе подпольного человека уподобил болезни. [9] 

Отсюда все более популярная идея "органической компьютации" (organic computation), воссоздающей, в частности, сетевую структуру растительного царства.

"Каждая травинка берет свою энергию от солнца в процессе фотосинтеза и использует часть этой мощности для выполнения вычислительных задач, а остальное - нормальные процессы жизнеобеспечения растения, как это происходит сегодня. Затем лужайка передает результаты вычислений центральному мультиплексору-координатору..., подключенному к компьютерным системам дома, и результаты попадают в национальные и, наконец, глобальные вычислительные сети".[10] 

"Приятно жить счастливому растенью —

Оно на воздухе играет, как дитя,

А мы ногой безумной оторвались,

Бежим туда — сюда,

А счастья нет как нет," —

так у Н. Заболоцкого говорит мыслящий волк,  выражая зависть животных и людей к растительному миру (поэма "Безумный волк", 1931). Разумное существо будущего тоже можно представить как "счастливое растение", связанное корнями-сетями со вселенской жизнью разума. И тогда разум будущего — это не металлический робот, а скорее, широкоумная дубрава (слегка переиначивая "широшумные дубровы"  в пушкинском  "Поэте").

 Следуя логике древних мифов, дерево познания добра и зла в Библии — это не просто растение, а растение-змей, в котором вегетативная символика сопряжена с бестиальной. А дерево жизни, посаженное в Эдеме, имеет чисто растительную природу, что может рассматриваться как  символ грядущего развития человечества в направлении мирных форм разума. Биосемиотические процессы как раз и указывают на эту связь между жизнью и разумом в их ненасильственных, недеструктивных  формах.  Машинное мышление может оказаться гораздо ближе к "растительному", чем к человеческому, склонному к агрессивному заострению оппозиций. Возможно, призвание человека — именно в том, чтобы вернуться к Древу Жизни, т.е. стать частью мыслительных систем, близких органической основе жизни. Достигнув  интеллектуальных высот в царстве животных, человек направляет силу своего ума на возвращение разума в русло живого смыслообмена, ноовегетации.

 

Примечания

[1] Michio Kaku on Digital Future: Should We Fear Robots?

http://news.ifmo.ru/en/news/7560/

https://hbr-russia.ru/innovatsii/tekhnologii/771054

[2] Маркс К.. Тезисы о Фейербахе (тезис 6).

[3] http://www.vestifinance.ru/articles/100217 

[4] "Hope we're not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable" https://space-hippo.net/go-ahead-biological-boot-loaders-ai/

[5] https://www.theatlantic.com/technology/archive/2015/01/building-robots-with-better-morals-than-humans/385015/

https://ria.ru/technology/20180428/1519656953.html

[6] Основоположники биосемиотики— биолог Якоб фон Икскюлль (Jakob von Uexküll, 1864 — 1944) и лингвист, семиотик и этнограф Томас Сибеок (Thomas Sebeok, 1920—2001), автор самого термина «биосемиотика». Теория жизни как аутопоэзиса развита чилийскими   учёными У. Матураной и Ф. Варелой в начале 1970-х гг.

[7] См. Michael Marder. Plant-Thinking: A Philosophy of Vegetal Life. New York: Columbia University Press, 2013.

[8] Ю. Лотман. Мозг — текст — культура — искусственный интеллект.//Избранные статьи в трех томах.Т. I. Статьи по семиотике и топологии культуры. Таллин: Александра,1992. С. 33.

[9] Сознание индивида, даже приобщенного к морали и эстетике, тянет его назад, в "тину" эгоизма, и даже усиливает сладострастие изысканной низменности. "...Я много раз хотел сделаться насекомым. Но даже и этого не удостоился. Клянусь вам, господа, что слишком сознавать - это болезнь, настоящая, полная болезнь. <...> ...В те же самые минуты, в которые я наиболее способен был сознавать все тонкости "всего прекрасного и высокого", как говорили у нас когда-то, мне случалось уже не сознавать, а делать такие неприглядные деянья, такие, которые... ну да, одним словом, которые хоть и все, пожалуй, делают, но которые, как нарочно, приходились у меня именно тогда, когда я наиболее сознавал, что их совсем бы не надо делать? Чем больше я сознавал о добре и о всем этом "прекрасном и высоком", тем глубже я и опускался в мою тину и тем способнее был совершенно завязнуть в ней" (Ф. Достоевский."Записки из подполья").

[10] http://www.webmac.com/?q=taxonomy/term/4

Комментировать Всего 18 комментариев

Тут возникает ещё интересная проблема - способно ли индивидуальное человеческое сознание понять и оценить резултаты сетевого мышления человечества? Сводимо ли такое сетевое мышление к сумме индивидуальных вкладов в него? 

Убежден, что нет. Индивидуальное сознание и от естественного разума человечества отстает с каждым поколением все сильнее. 

"Основной закон истории - отставание человека от человечества. Возрастают диспропорции между развитием человеческой индивидуальности, ограниченной биологическим возрастом, и социально-технологическим развитием человечества, для которого пока не видно предела во времени. Увеличение возраста человечества не сопровождается столь же значительным увеличением индивидуальной продолжительности жизни..." 

Это из моей статьи 20-летней давности об информационном взрыве.

С тех пор разрыв только увеличился. 

Эту реплику поддерживают: Сергей Кондрашов

Именно таково и моё впечатление. Цивилизация явно усложняется, а составляющие её индивидуальные интеллекты, в лучшем случае, соответствуют уровню античности/средневековья, а вполне вероятно и становятся со временем более ограниченными и инфантильными. Опять же объективно фиксируемое уменьшение размера мозга, начиная с позднего палеолита....

Эту реплику поддерживают: Михаил Эпштейн

ИИ больше похож на разум Эйнштейна или Гитлера?

Мы приписываем искусственному разуму стремление нас поработить, как будто это какой-то новый Чингисхан, надвигающийся на человечество с ордой роботов. Но это проекция на ИИ властно-хищных функций естественного разума, обремененного тяжкой борьбой за существование и нехваткой природных ресурсов (пищи, тепла и пр.). Я не думаю, что разум сам по себе, освобожденный от своего биологического последа, так уж агрессивен. Кстати, в людях, обладавших наибольшей степенью развития разума: в ученых, философах — особой жажды власти не обнаруживается. Представлять искусственный разум лучше по наивысшим образцам естественного разума, по образцу Канта или Эйнштейна, чем по образцу Сталина или Гитлера, у которых разум был всего-навсего инструментом альфа-самцовых амбиций — лидерства в стае.

Основная опасность ИИ совсем не в том, что он *захочет* выйти из подчинения человеку. А в том, что выйдет. Вавилонская башня рухнула на головы строителей не потому, что захотела этого.  

А зачем нужно подчинять разум? Нуждается ли разум во власти над собой, тем более со стороны менее разумных существ? 

Миша, я полагаю, что первым отличием разумного существа от неразумного является способность к рефлексии и связанная с ней неалгоритмизируемая способность понимать, ставить новые задачи и отыскивать решения в непредусмотренных случаях. То, что называется ИИ, не имеет такой способности ни на грош. Полный, абсолютный ноль. Это есть система датчиков и обратных связей, с алгоритмами случайных оптимизаций. При достаточно высокой сложности, система ИИ может повести себя непредсказуемо катастрофически — не по причине ее дурного умысла, ибо умыслов у нее нет никаких, а по причине непредусмотренной ее проектировщиками каузальной цепочки. Предотвратить подобное будет тем труднее, чем сложнее система ИИ. 

Эту реплику поддерживают: Alexei Tsvelik

Разумеется, сам термин "Искусственный Интеллект" совершенно сбивает с толку. Ни о каком интеллекте здесь речи нет и быть не может. И прежде всего потому, что у тех машин, что мы занем сегодня, нет ПОНИМАНИЯ. Ни о какой "вегитации (выращивании?) смыслов" речи быть не может, поскольку никакой компьютер никогда не породил никакого смысла. "Я понять тебя хочу. Смысла я в тебе ищу." (Пушкин)

Эту реплику поддерживают: Алексей Буров

Рефлексия — это способность переходить с одного уровня информационного процесса на другой, перемысливать мысль, переозначивать знаки. Именно эта способность и лежит в основе самообучающихся информационных программ. Вот маленький пример: https://www.sciencealert.com/new-self-learning-ai-is-like-an-alien-civilisation-inventing-its-own-mathematics

Сам я недавно был поражен новому уровню межъязыкового перевода на Google Translate:   год-два назад там ввели новые алгоритмы самообучения, и эффект поразительный (особенно при переводе на английский). А перевод с естественных языков — это уже не шахматы и даже не го, это почти приближение  к знаковой емкости естественного разума. Так что ставить О искусственному интеллекту пока преждевременно. Поговорим лет через 10.

Миша, машинный превод обладает большими возможностями, связанными со способностью к рефлексии авторов новых алгоритмов, но никак не ИИ, у которого эта способность как у твоего чайника, то есть беспримесный ноль. Шахматы или перевод — это проблемы алгоритмической оптимизации в четко очерченном человеком поле параметров и баз данных, по заданным человеком алгоритмам. Поскольку от тебя деятельность программистов бесконечно далека, ты становишься жертвой иллюзии, подобно зрителю в цирке, не видящему работу фокусника, и изумляющемуся говорящим медведям и исполняющим арии обезьянам.  

Эту реплику поддерживают: Alexei Tsvelik

Если авторы способны передать уровни своей рефлексии самодействующим алгоритмам, то о том и речь.

Надеюсь, ты не откажешься признать, что тест Тьюринга может служить показателем приближения уровня искусственного интеллекта к человеческому.  Этот тест на то, могут ли машины думать, является более или менее общепринятым в научном сообществе (конечно, есть ученые, считающие Землю плоской, но я не говорю о сектантах). Прогнозируется, что примерно к 2030 году этот тест будет пройден. Судя по тому, с какой удивительной быстротой самообучающиеся программы наращивают свой интеллектуальный потенциал,  может быть, и раньше. Поэтому я и предложил поговорить через 10 лет. Но вектор развития очевиден.   

"Надеюсь, ты не откажешься признать, что тест Тьюринга может служить показателем приближения уровня искусственного интеллекта к человеческому. "

Разумеется, откажусь, Миша. И со всей решительностью — по указанной мной причине. На эту тему есть хороший мысленный опыт — "китайская комната" Серля. 

Эту реплику поддерживают: Alexei Tsvelik

У Гофмана есть сказка о том, как студент влюбился в искуственный интеллект куклы Коппелии.

Эту реплику поддерживают: Алексей Буров

Миша, ты говоришь, что Каку футуролог. Его предсказания сбываются? Это вопрос, я не знаю, никогда его не читал и никогда от моих коллег физиков не слышал этого имени.

Я не имею возможности лично проверять предсказания каждого футоролога, но есть репутации, которым я доверяю. K тому же, футурология — это не гадание и не предсказание, а обобщение тенденций в науке, ведущих в будущее. Многие ученые, полагаю, весьма мало читают за пределами своего узкого профессионального поля.

Думаю, тебе было бы полезно ознакомиться хотя бы с 2-3 из его книг.

https://en.wikipedia.org/wiki/Michio_Kaku

  

Предсказания в науке, Миша, отличаются от гаданий. Вот я и спрашивал, удачно ли он обобщал "тенденции в науке, ведущие в будущее". Далее, на чем основана его репутация и главное, среди кого? 

Алеша, если интересно, проведи маленькое самостоятельное исследование, тем более о Каку написано очень много.  А если неинтересно, зачем спрашивать. Прости, у меня нет времени на работу в качестве справочного бюро.