Все записи
09:18  /  4.06.15

10340просмотров

Сверхумный софт

+T -
Поделиться:

 

Цифровые компьютеры просто манипулируют формальными символами согласно правилам, зафиксированным в программе. Получается, что умения манипулировать символами еще недостаточно, чтобы гарантировать знание, восприятие и понимание, т. е. первичные признаки мышления. И поскольку компьютеры — это устройства, манипулирующие символами по определенной программе, то нельзя говорить о наличии у них какого-либо знания.

Д. Сирл. Разум мозга — компьютерная программа?

Британский физик-теоретик Стивен Хокинг

Переписываясь во время создания книги «Стивен Хокинг — гений черных дыр» с главным героем, автору посчастливилось стать свидетелем рождения удивительной концепции, которая, по словам выдающегося британского теоретика, способна объяснить очень многое…

«Человеческий интеллект тоскует не только по космическим далям, но и по себе подобным, причем хочет ощутить себя творцом и созидателем, — рассуждал лукасианский профессор, — и поэтому он сам создает барьер эволюции — квазижизнь виртуальных вирусов, которая однажды сметет киберпространство неким подобием электронной пандемии…

Так решается парадокс “Великого молчания Космоса”, а это значит, что пути развития разума подобны…»

Может быть, Хокинг и прав. Тогда получается, что человечеству угрожают вовсе не астероиды, БАКи, пандемии новых микробов и климатические катастрофы. И не стоит бояться злокозненных МЗЧ (маленьких зеленых человечков) из американских городских легенд.

Все очень просто: мы уже не можем развиваться без кибернетики, а киберы никогда не упустят шанс стать доминирующим планетарным разумом…

Вот только почему их не интересуют просторы Вселенной?

Ну да, разумеется, ведь виртуальные глубины киберпространства более естественны для искусственного интеллекта и никак не менее обширны…  

Компьютерные программы внутри нас 

Представим себе, что находящиеся за дверью комнаты люди, понимающие китайский язык, передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов. В данном случае книга правил есть не что иное, как «компьютерная программа». Люди, написавшие ее, — «программисты», а я играю роль «компьютера». Корзинки, наполненные символами, — это «база данных»; наборы символов, передаваемых в комнату, это «вопросы», а наборы, выходящие из комнаты, это «ответы».

Д. Сирл. Разум мозга — компьютерная программа?

Джон Роджерс Сирл

Специалисты по искусственному интеллекту разделяют пути его построения на разработку «софта» — программного обеспечения и конструирование «железа» — архитектуры компьютеров. Общим подходом тут является компьютерное моделирование самого разума человека. Подобные взгляды часто суммируются следующим образом: «Разум по отношению к мозгу — это то же, что и программа по отношению к аппаратуре компьютера». Однако если взять, например, какой-нибудь незнакомый язык, то текст будет восприниматься как набор бессмысленных символов — иероглифов. Если есть набор таких символов — иероглифов и сборник правил для их сочетаний, причем правила эти можно применять, зная лишь форму символов, понимать значение символов совсем необязательно.

Известный американский специалист по философии искусственного интеллекта Дж. Сирл решил рассмотреть ситуацию, когда подобная книга правил написана так, что «ответы» на «вопросы» пользователя не отличаются от ответов человека, свободно владеющего восточным наречием. Например, люди, находящиеся снаружи, могут передать непонятные пользователю символы, означающие: «Какой цвет вам больше всего нравится?» В ответ, выполнив предписанные правилами манипуляции, пользователь выдаст символы, по сути ему непонятные, но означающие, что его любимый цвет такой-то.

Таким образом пользователь выполнит тест на понимание иероглифов. Но на самом деле он, конечно же, не понимает ни слова из восточного языка. Точно так же и компьютеры манипулируют символами, задаваемыми человеком-оператором, совершенно не понимая заложенного в них смысла.

Суть этого мысленного эксперимента состоит в том, что никакой компьютер не может понять смысл языка общения, если в него не заложены особые эвристические алгоритмы. Обычные компьютерные программы просто определяют порядок работы с символами, которые являются таким мощным орудием расчетов и анализа. При этом одна и та же программа может выполняться на совершенно разных машинах, каждая из которых способна выполнять самые различные компьютерные программы.

Цифровой компьютер обрабатывает информацию, сначала кодируя ее в символических обозначениях, используемых в машине, а затем манипулируя символами в соответствии с набором строго определенных правил. Эти правила и представляют собой компьютерную программу. Компьютеры обладают удивительным свойством: любая представимая на естественном языке информация может быть закодирована и любая задача по обработке информации может быть решена путем применения правил, которые можно запрограммировать.

Компьютерная экзобиология 

Человеческий разум оперирует смысловым содержанием и простого манипулирования символами недостаточно, чтобы гарантировать знание их смыслового значения. Главное, что существует различие между формальными элементами, не имеющими внутреннего смыслового значения, или содержания, и теми явлениями, у которых такое содержание есть. Из этого следует, что компьютерные программы не являются сущностью разума и их наличия недостаточно для наличия разума.

Д. Сирл. Разум мозга — компьютерная программа?

Норберт Винер

Я утверждаю, что физическое функционирование живых индивидуумов и работа некоторых из новейших информационных машин совершенно параллельны друг другу в своих аналогичных попытках управлять энтропией путем обратной связи. Как те, так и другие в качестве одной из ступеней цикла своей работы имеют действие сенсорных рецепторов, то есть как в тех, так и в других существуют специальные аппараты, служащие для собирания информации из внешнего мира на низких энергетических уровнях и для преобразования информации в форму, пригодную для работы индивидуума или машины.

Н. Винер. Человек управляющий

В современной экзобиологии — науке о внеземных формах жизни — широко распространены взгляды о том, что к мышлению способны не только системы биологической природы, подобные нашему мозгу. Мы можем встретить во Вселенной и другие способные к осознанным мыслям системы, и в будущем будут созданы искусственно мыслящие системы, но вряд ли с человекоподобным разумом.

Еще один из основателей кибернетики Норберт Винер считал, что «интеллектуальные» программы будут особенно успешны для параллельных компьютерных систем, где информация обрабатывается сразу по нескольким каналам. Разумеется, у параллельных сетей есть интересные свойства, благодаря которым они могут лучше моделировать мозговые процессы по сравнению с машинами с традиционной последовательной архитектурой.

Однако, с точки зрения выполнения вычислений, последовательные и параллельные архитектуры совершенно идентичны: любое вычисление, которое может быть произведено в машине с параллельным режимом работы, выполняется и машиной с последовательной архитектурой. Это справедливо в отношении любой вычислительной системы. Получается, что поскольку все, что поддается моделированию вычислениями, может быть описано как компьютер и поскольку наш мозг на некоторых уровнях поддается моделированию, то отсюда тривиально следует, что наш мозг — это компьютер и он, разумеется, способен мыслить. Однако из того факта, что систему можно моделировать посредством манипулирования символами и что она способна мыслить, вовсе не следует, что способность к мышлению эквивалентна способности к манипулированию формальными символами.

Современная наука все еще в значительной степени пребывает в неведении относительно протекающих в мозгу процессов. Там, где мы достигли некоторого понимания того, как мозговые процессы порождают те или иные психические явления, — например, боль, жажду, зрение, обоняние, — нам ясно, что в этих процессах участвуют вполне определенные нейробиологические механизмы. Например, чувство жажды обусловлено срабатыванием нейронов определенных типов в гипоталамусе, которое в свою очередь вызвано действием специфического биоактивного вещества — пептида. Причинные связи прослеживаются здесь «снизу вверх» в том смысле, что нейронные процессы низшего уровня обуславливают психические явления на более высоких уровнях. В самом деле, каждое «ментальное» явление, от чувства жажды до мыслей о математических теоремах и воспоминаний о детстве, вызывается срабатыванием определенных нейронов в определенных нейронных структурах.

Мозг по сути своей является биологическим органом, и именно его особые биохимические свойства позволяют достичь эффекта сознания и других видов ментальных явлений. Компьютерные модели мозговых процессов обеспечивают отражение лишь формальных аспектов этих процессов. Однако моделирование не следует смешивать с воспроизведением. Именно человеческий мозг порождает разум, и любая другая система, способная порождать разум, должна обладать свойствами, эквивалентными соответствующим свойствам мозга.

Это равносильно, например, следующему утверждению: если электрический двигатель способен обеспечивать автомашине такую же высокую скорость, как двигатель внутреннего сгорания, то он должен обладать эквивалентной мощностью. В этом заключении ничего не говорится о механизмах. На самом деле мышление — это биологическое явление: психические состояния и процессы обусловлены процессами мозга. Из этого еще не следует, что только биологическая система может мыслить, но это в то же время означает, что любая система другой природы, основанная на кремниевых кристаллах, жестяных банках и т. п., должна будет обладать возможностями мозга. Процессы, которые определяют нечто как компьютер, на самом деле совершенно не зависят от того, какой у него вид. В принципе можно сделать компьютер из самых различных комплектующих деталей с использованием альтернативных источников энергии.

В настоящее время, однако, обнаружилось, что как научные, так и технические поиски столкнулись с несоизмеримо более серьезными трудностями, чем представлялось первым энтузиастам. На первых порах многие пионеры искусственного интеллекта верили, что через какой-нибудь десяток лет машины обретут высочайшие человеческие таланты. Предполагалось, что преодолев период «электронного детства» и обучившись в библиотеках всего мира, хитроумные компьютеры, благодаря быстродействию, точности и безотказной памяти, постепенно превзойдут своих создателей-людей. На протяжении всей своей короткой истории исследователи в области искусственного интеллекта всегда находились на переднем крае информатики. Многие ныне обычные разработки, в том числе усовершенствованные системы программирования, в значительной мере основаны на достижениях исследований по искусственному интеллекту.

Несмотря на многообещающие перспективы, ни одну из разработанных до сих пор программ искусственного интеллекта нельзя назвать действительно «разумной» в бытовом значении этого слова. Это объясняется тем, что все они узко специализированы; самые сложные экспертные системы по своим возможностям скорее напоминают дрессированных или механических кукол, нежели человека с его гибким умом и широким кругозором. Даже среди исследователей искусственного интеллекта теперь многие сомневаются, что большинство подобных изделий принесет существенную пользу. Немало критиков искусственного интеллекта считают, что такого рода ограничения вообще непреодолимы.

Электронные биоморфы 

Я надеялся увидеть плакучие ивы, ливанские кедры, ломбардийские тополя, водоросли и, может быть, оленьи рога. Но ни моя интуиция биолога, ни двадцатилетний опыт программирования компьютеров, ни самые необузданные полеты моей фантазии не подготовили меня к тому, что я увидел на экране в действительности. Я уже не помню, глядя на какой элемент последовательности, я начал впервые подозревать, что... может получиться нечто вроде насекомого...

Р. Докинз. Слепой часовщик

Многие ученые-кибернетики считают, что человечество сейчас находится на пороге «большого скачка» в интеллектуальных технологиях. Иногда приложения программного искусственного интеллекта просто поражают воображение. Английский биолог-эволюционист Ричард Докинз создал оригинальную компьютерную программу, которая позволяет моделировать эволюцию животного и растительного мира, придумывая и графически изображая свои собственные формы жизни, абстрактные организмы-биоморфы. Эта программа наглядно показывает абсурдность критики креационистами теории эволюции. Недалекие церковные мракобесы постоянно задают вопрос: каким образом нечто такое сложное, как «машина жизни», может возникнуть просто в результате стечения случайных событий? Обычно обскурантисты рассуждают следующим образом. Если, идя по полю, мы наткнемся на камень, то можно, конечно, подумать, что он лежал там вечно, однако, найдя часы, мы должны признать, что они имели своего творца.

Клинтон Ричард Докинз

Все меньше веря своим глазам, я наблюдал, как сходство с насекомым становится все более отчетливым. И вот, наконец, под триумфальные звуки фанфар на экране появились насекомоподобные существа…

Р. Докинз. Слепой часовщик

Ошибочность этого аргумента заключается в неявном предположении, что случайные события, которые привели к появлению часов (или их творца), происходили более или менее одновременно. Здесь не принимаются в расчет эффекты кумулятивных, т. е. накапливающихся изменений. Программа Докинза и показывает на примере вычислительных процессов, сколь значительными могут быть кумулятивные изменения.

Компьютерные биоморфы

Программа Докинза слишком длинна и сложна… в ней осуществляется выбор большого количества различных режимов и параметров, и каждую процедуру выбора можно считать отдельной программой. Например, в программе можно выбрать режим конструирования. Пользователь знакомится с комментарием, прилагаемым к программе, чтобы научиться непосредственно манипулировать генами, с целью получить те или иные конкретные биоморфы.

А. К. Дьюдни. Моделирование эволюции в мире биоморфов

Процесс начинается с очень простого образования в центре экрана, который делится на большие клетки. Предположим, к примеру, что центральная клетка содержит маленькое дерево с несколькими ветвями. Программа порождает деревья — вариации исходного, которые заполняют соседние клетки на экране. У одних деревьев становится больше веток, у других меньше, одни становятся выше, другие ниже. Они представляют собой те видоизменения, которые возможны в популяции на данный момент.

Так появилась первая из тех форм, для которых позже Докинз придумал общее название «биоморфы». На самом деле все формы, порождаемые программой, представляли собой деревья. Причудливо изгибающиеся ветви могут придать этим деревьям формы, в которых мы узнаем не только тело, крылья и ножки насекомых, но и мириады других биоморфов, включая древовидных лягушек, летучих мышей и даже орхидеи. Могут появиться и такие технические формы, как лампочки и лабораторные весы.

Среди других режимов есть и так называемая «история ископаемых останков». В этом режиме эволюционные ветви хранятся в виде отложений различных исторических эпох. Есть также режим «в поисках чудовища», в котором происходит случайный отбор потомства в каждом поколении. Этот процесс продолжается до тех пор, пока не появится какая-нибудь интересная форма, может быть, даже чудовище.

Растительные биоморфы

Каким же образом программа «исполняет вариации на заданную тему»? Форма каждого дерева, порождаемого программой, определяется 16 генами. Роль некоторых генов объяснить просто. Эффект других заранее предсказать невозможно, потому что их роль зависит от взаимодействия с третьими. Несколько генов определяют количество ветвей и общие размеры дерева. Из генов второго типа три гена в определенных сочетаниях влияют на горизонтальную протяженность ветвей, в то время как пять других совместно определяют их вертикальную протяженность.

А. К. Дьюдни. Моделирование эволюции в мире биоморфов

Вообще говоря, это, по существу, искусственный отбор выживающих вариантов, совершаемый человеком. Другими словами, это не естественный отбор, а направленная селекция. Дарвин говорил об успешной деятельности селекционеров, чтобы подкрепить свой тезис о существовании изменчивости в популяциях. Конечно, эта деятельность полностью не доказывает существования естественного отбора. Аргументы в пользу последнего Дарвин черпал из многих источников, в том числе он их находил и в истории ископаемых останков. Цель, преследуемая Докинзом, тем не менее была достигнута и с помощью компьютера было показано, что эффекты накапливающихся изменений могут быть весьма впечатляющими.

Следующий шаг в развитии программ виртуальной эволюции сделал другой известный американский схемотехник и научный обозреватель А. К. Дьюдни. Он составил оригинальную программу — игру для двух виртуальных организмов: растения «шипофита» и животного «гнутозавра». Гнутозавр не может жить без сочных листьев, растущих на верхушке шипофита, но у основания шипофит окружен ошейником из колючих ядовитых шипов. Однако гнутозавр имеет в своем теле изгиб, позволяющий ему избегать смертельных уколов колючек шипофита, когда он пытается достать листья.

Шипофит и гнутозавр (А. К. Дьюдни. Моделирование эволюции в мире биоморфов)

Гнутозавры могут быть различной высоты и иметь шеи разной длины. Колючки шипофита все одинаковой длины у одного и того же растения, но их длина может быть неодинаковой у разных растений. Высота шипофита также подвержена небольшим случайным изменениям.

Программе, чтобы управлять формой каждого из биоморфов, достаточно иметь по два параметра — гена. У гнутозавра один ген ответствен за высоту, другой — за длину шеи. У шипофита гены задают высоту и длину шипов. Эволюция этих двух форм виртуальной жизни взаимозависима, и в эволюционной перспективе шипофит на генном уровне «стремится» избавиться от гнутозавра, видоизменяясь так, чтобы последнему было все труднее добывать его листья.

Компьютерная программа поочередно предоставляет возможность обоим биоморфам изменять свои генные параметры. Каким образом программа решает, какой из потомков каждого биоморфа выживет? Критерий заключается в величине, называемой дистанцией кормления. Она измеряет расстояние между головой гнутозавра и ароматными листьями шипофита.

Шипофит стремится эволюционировать так, чтобы максимально увеличить дистанцию кормления. Задача гнутозавра, наоборот, заключается в том, чтобы сделать это расстояние минимальным. Например, тот из трех шипофитов, которому удается держать «живущего» в данный момент гнутозавра на наибольшей дистанции, отбирается и сохраняется для следующего раунда эволюции. Теперь наступает очередь гнутозавра. Он сам и его видоизмененные потомки проверяются на выживание в среде с новой моделью шипофита. Тот, у которого дистанция кормления окажется минимальной, будет родителем нового поколения.

Недавно Стивен Хокинг снова попытался предостеречь человечество от смертельной опасности и написал статью в соавторстве с профессором компьютерных наук Стюартом Расселлом из Калифорнийского университета, а также профессорами физики Максом Тегмарком и Фрэнком Вильчеком из Массачусетского технологического института.

Авторы статьи считают, что человечество в будущем может столкнуться с тем, что машины с нечеловеческим интеллектом получат неограниченную свободу самосовершенствования. И это будет началом конца…

Поэтому создателям «умного софта» надо просто внимательней присмотреться к творчеству наиболее «продвинутых хакеров», умело использующих программы «электронных трансформеров». В данном вопросе своего друга и коллегу поддерживает другой видный теоретик Роджер Пенроуз. В присущей ему парадоксальной манере мышления он предлагает создавать своеобразные «электронные инкубаторы», в которых эвристические программы будут самосовершенствоваться и развиваться.

Будущее покажет, какие из подобных устрашающих прогнозов воплотятся в жизнь и смогут ли виртуальные глубины «Всемирной паутины» стать яслями для новой квазижизни…