Как думает мозг

Предыдущие части: 1 | 2 | 3

Очень трудно изменить
точку зрения людей, например, на сознание, 
и я наконец выяснил почему. 
Причина в том, что каждый является
экспертом в области сознания.
Дэниел Деннет

Теперь давайте зададимся вопросом. Мы с вами посмотрели, как работают некоторые искусственные интеллекты. Пусть даже они узкие и «слабые» — в чем проблема, если мы сами набор таких же? Тут проблемы обнаружить действительно не удается.

Но почему, если мы смотрим на проявления нашего интеллекта (биологического) и работу искусственного, нам все-таки кажется, что они сильно, если не радикально отличаются?

Думаю, что такое впечатление складывается потому, что искусственный интеллект занимается какими-то глупостями, а еще потому, что действует предельно расточительно и нелогично. Сколько лидару нужно всего сделать, чтобы создать карту реальности вокруг автомобиля? Это ужас что такое!

Человек-водитель не будет разглядывать всех людей на прилегающих улицах, определять скорость движения всех автомобилей на расстоянии трех футбольных полей вокруг. А лидар все это делает и еще, вы не поверите, изучает цвет каждого светофора на перекрестке, то есть буквально всех, смотрящих во все стороны! Нормальный, нет?

Ощущение не только избыточности, но и избыточной тупости, правда? Вы вообще можете себе представить, чтобы хоть кто-то из нас делал нечто подобное, если, конечно, его под дулом пистолета к этому не принудят?

Ну, положим, лица на фотографиях Google Street View мы с вами различить и замазать сможем, а с грудью и ягодицами уж тем более справимся. Но к этому нас, надо сказать, сотни тысяч лет эволюция готовила. Это результат специфических настроек в нашем мозгу и плюс научение еще.

Но вся прочая работа искусственных интеллектов — она какая-то совсем античеловеческая. Мы так не думаем, как это они делают! Мы точно делаем это иначе! Умнее!

С другой стороны, мы просто не в курсе? На самом деле наш мозг, конечно, строит пространственные модели реальности, как и лидар. И делает это на постоянной основе!

А наш мозжечок, например, производит, по сути, те же действия, что и все эти бесчисленные умные датчики в автомобилях: круиз-контроль и прочие такие штуки. Огромный объем работы!

Или вот, например, речевые центры Брока и Вернике — разве не совершают они те же действия по распознаванию речи, как это делают Siri с Алисой?

Разумеется, наш мозг постоянно занимается распознаванием речи, но, если она нам родная, мы просто не осознаём этого. Если же вы плохо знаете какой-то язык, то вы чувствуете, как, общаясь с носителем этого языка, только тем и заняты, что распознаёте его речь — пытаетесь понять, где в этом звуковом потоке начинаются и заканчиваются отдельные слова и что они, эти слова, учитывая контекст, могут значить.

Нам кажется, что мы мыслим логически, а наша интеллектуальная деятельность — это осознанный процесс построения логических конструкций. Но это не так: человек нелогичен, непоследователен и переменчив во взглядах

Наш мозг все это делает, и постоянно — мы просто не в курсе! А самое главное, мы совершенно не замечаем множества дефектов своих моделей реальности — и это не только огромные информационные пробелы, но еще и бесконечные иллюзии восприятия и понимания.

Нам кажется, например, что мы мыслим логически, а наша интеллектуальная деятельность — это осознанный процесс построения логических конструкций. Но это не так: человек нелогичен, непоследователен и переменчив во взглядах.

Наше мышление и связанное с ним поведение — это одно сплошное когнитивное искажение, не говоря уже о субъективизме, обусловленном специфическим жизненным опытом каждого из нас.

Но тут можно возразить: если всё так, то как же получается, что столь ненадежное существо умудряется быстро и ловко решать множество сложнейших задач, а искусственному интеллекту нужно проделать для этого огромный объем работы и использовать невероятное количество вычислительных мощностей?

Этот ларчик открывается достаточно просто: дело в нашей с вами ограниченности. Звучит это, наверное, несколько дико, но давайте рассмотрим эту кажущуюся парадоксальной точку зрения.

Эволюция заставляет нас искать и поглощать калории, а также информацию. Но вот среда изменилась — и того и другого стало в избытке, и мы страдаем от ожирения, как физического, так и информационного

Биологическая эволюция миллионы лет готовила наш мозг к решению считаного, на самом-то деле, и весьма незначительного количества задач, необходимых для нашего выживания. Соответственно, настройки, которые в нас, так сказать, вшиты, достаточно примитивны.

Например, эволюция заставляет нас искать и поглощать калории, а также информацию. Но вот среда изменилась — и того и другого стало в избытке, и мы страдаем от ожирения, как физического, так и информационного.

Проще говоря, наш мозг не может сам по себе остановиться, хотя мы сознательно понимаем, что хватит. Нет, он ест и скроллит, пока сил хватает. Это разумно? Нет.

В общем, мы были неплохо созданы под конкретные задачи. Но реальных задач у нас было немного, поэтому и хвастаться нашим «суперкомпьютером» вряд ли стоит.

Да, в нас есть настройки под конкретные задачи — на какие объекты и какой последовательностью действий реагировать. Мы с этими настройками рождаемся и дальше тренируем их в процессе последующего онтогенеза (своего индивидуального развития), адаптируясь к конкретным условиям жизни — в монгольских степях или джунглях Амазонии.

Причем проходим, по сути, все фазы: от примитивного реагирования, ничего не видя и не понимая, до более и более сложного поведения, пока не решим, что, мол, всё, достаточно учиться и тренироваться — мы и так лучше всех.

Эмбрион в процессе своего развития в утробе матери трансформируется из одноклеточного организма в полноценное млекопитающее, в человека. Это, образно говоря, как миллионы лет эволюции на ускоренной перемотке ¹, что схематично показано на рисунке.

Как это нам удается? Просто потому, что у него есть программа — предустановки, прописанные в нашем ДНК.

С нашим мозгом, уже после рождения, происходит примерно то же самое: мы проходим путь его последовательного развития из бессмысленной массы нейронов в сложную структуру нервных связей, обуславливающих жизнь и деятельность взрослого человека.

Проходим, надо признать, достаточно быстро — лет за 20–25, когда завершается миелинизация тех областей префронтальной коры, которые отвечают за создание образа будущего ².

Теперь давайте чуть-чуть добавим самоиронии:

• даже при наличии генетически предустановленных в нас настроек, благодаря которым все области коры головного мозга изначально специализированы и буквально выпрыгивают из штанов, ожидая, когда же им наконец дадут развиться,
• даже при том, что адаптироваться, то есть развивать наш мозг, нам предстоит в рамках внятной и понятной образовательной среды, которая создана для нас культурой и буквально напичкана общественными отношениями, мириадами воспитателей, учителей, тренеров и т. д. , и т. п.,

нашему расчудесному мозгу требуется 25 лет на его формирование!

Знаете, по сравнению даже с нынешними «слабыми» искусственными интеллектами, наш с вами — биологический — страдает существенными задержками развития.

Ко всему этому, вероятно, следует добавить еще несколько «чувствительных» деталей. Например, то, что биологическая эволюция не мелочится и жертвы ее никогда не пугали. Так что количество ее неудачных опытов, как нетрудно догадаться, прохаживаясь по палеонтологическому музею, значительно превосходит число успехов и прорывов.

Сам принцип естественного отбора — это наличие жертв: слабые, неспособные, не умеющие адаптироваться существа должны сгинуть, не оставив потомства. И это логично, но от искусственного интеллекта мы по каким-то загадочным причинам ждем не только мгновенной умности, но и безошибочности работы.

Каждая автомобильная авария с автомобилем, управляемым автопилотом, становится предметом подробнейшего разбирательства и главной новостью на местных телеканалах. Конечно, это же ужас какой! При этом о том, что ДТП с участием обычных автомобилей не попадают в новости из-за того, что их слишком много и это до того обыденно, что «не новость», почему-то никто не задумывается.

Нам легко войти в положение человека, убившего другого человека своей машиной, даже если он был пьян, обкурен или просто невнимателен. Но умную машину мы готовы осудить, даже если она невиновна

К настоящему моменту автомобили с автопилотом разных компаний и производителей намотали пробег в миллионы километров, многократно обогнули земной шар. А много ли вы слышали историй об убийстве человека машиной с автопилотом?..

Исследователи компании Axios самым серьезным образом подошли к изучению статистики дорожных происшествий в Калифорнии с участием робомобилей. С 2014 по 2018 год удалось насчитать 38 таких ДТП. И что же? Выяснилось, что во всех случаях, кроме одного, когда действительно произошел сбой алгоритма автопилота, виновником ДТП был человек.

Но, несмотря на это, информация о подобных ДТП, прошедшая через СМИ, неизменно приводит к резкому снижению доверия публики к технологиям автопилотирования. Забавно, правда?

Нам легко войти в положение человека, убившего другого человека своей машиной, даже если он был пьян, обкурен или просто невнимателен. Но умную машину мы готовы осудить, даже если она невиновна. Да, мы просто кладезь когнитивных искажений…

Правда в том, что уже сейчас прекрасно работающий искусственный интеллект совершенно не похож на нас — на своего создателя. Ни в фас, ни в профиль. Однако же он делает ровно то, что делает наш с вами мозг, причем в каждом отдельном случае значительно лучше него (или, по крайней мере, лучше и лучше с каждым днем).

Искусственный интеллект — это, в действительности, некий искусственный мозг, а не «интеллект» в привычном для нас понимании этого слова

Когда-то считалось, что научить машину распознавать человеческие лица — это что-то за гранью фантастики: нельзя, невозможно, никогда не получится. Однако сейчас интеллектуальные системы распознавания лиц справляются с этой задачей лучше людей, и уж точно значительно лучше меня (всегда страдал от этой проблемы).

А на вопрос, каким образом им это удается, ответ будет прост до неприличия: они научились. Как и мы с вами в свое время, только у нас были эволюционные настройки, предуготованность к распознанию лиц, соответствующие области мозга в зрительной коре, а у него — нет.

Почему эта задача, применительно к искусственному интеллекту, ранее считалась невыполнимой? Потому что разработчики думали: какие алгоритмы ввести в систему, чтобы научить ее распознавать лица или, например, отличать морду собаки от кошки?

Но разве у нас есть «сознательные» правила на этот случай? Разве у нас самих не происходит все это на подсознательном уровне? Разве мы не называем этот навык интуитивным? Хотя никакой интуиции не существует, и это всегда результат не осознаваемой нами работы нашего же мозга.

Да, мы не знаем (сознательно), по каким принципам мы узнаём людей в лицо, мы не знаем (сознательно), что позволяет нам так быстро и «просто» отличить кошку от собаки. Так кого мы можем этому научить?

Правда в том, что мы сами не понимаем того, как наш мозг решает эту, да и подавляющее большинство других жизненных задач. Наш мозг делает это на тех уровнях своей организации, куда наше самодовольное и самоуверенное сознание никогда не заглядывало и, даже при всем желании, заглянуть не может.

Проще говоря, искусственный интеллект — это, в действительности, некий искусственный мозг, а не «интеллект» в привычном для нас понимании этого слова. Точнее, даже не мозг, поскольку он является интегральным органом, а пока лишь искусственная нервная ткань: огромное множество отдельных сетей, работающих — до поры до времени — независимо друг от друга.

Но как мы видим, они — эти отдельные пока искусственные интеллекты — уже начали собираться в агрегации и работать совместно. Именно так, должен сказать, происходило и в процессе эволюционного филогенеза, то есть исторического развития, нашей с вами нервной системы.

Прах от праха

Изначально у наших предков — у всяких кишечнополостных, например, — нервная система была «диффузной» (впрочем, была и есть — они так ею и пользуются). Это значит, что нервные клетки и их небольшие скопления располагаются в разных частях тела животного и не соединены в единый функциональный комплекс.

Затем эволюция опробовала «узловую нервную систему» — ею могут похвастаться всякие моллюски, членистоногие, кольчатые черви. Здесь скопления нервных клеток уже образуют нервные узлы — ганглии, а из скоплений отростков нервных клеток формируются нервные стволы, проще говоря — нервы ³.

Наконец, третий этап — это «трубчатая нервная система», которая характерна для хордовых. То есть все позвоночные, начиная с самых примитивных форм (например, ланцетника) и заканчивая человеком, обладают «трубкой» центральной нервной системы, которая оканчивается в головном конце объемной ганглиозной массой.

Дальше уже в рамках развития этой «трубки» происходили такие процессы:

• централизация — группировка нервных центров в морфофункциональные конгломераты, располагающиеся в разных отделах тела животного (каждый нервный узел обеспечивал работу определенного сегмента);
• специализация — соподчинение различных ганглиев друг другу, увеличение специфичности нервных клеток (то есть они начинают выполнять разные функции), а также формирование афферентной системы (приводящей сигнал) и эфферентной (отправляющей команды);
• цефализация — это подчинение задних отделов центральной нервной системы головным, формирование сложных иерархических отношений между элементами нервной системы в целом;
• кортикализация — формирование и совершенствование коры больших полушарий головного мозга, обеспечивающей тонкость дифференцировки нервных сигналов и возможность сложного обучения.

В каком-то смысле искусственный интеллект переживает сейчас свой филогенез и экспериментирует в сторону усложнения. Даже биологическая эволюция, как вы, наверное, знаете, не была линейной, и все виды животных, которые обитают сейчас на планете Земля, являются, по сути, вершинами своих генетических линий.

Поэтому, реконструируя таким образом логику эволюции нервной системы, мы реконструируем логику исторического формирования своей нервной системы, которую считаем, разумеется, идеальной. Но это мы так считаем…

Мы зачастую абсолютно неспособны решить задачу, с которой легко справляются пчёлы или какие-нибудь сойки, или, наконец, шимпанзе

Если у вас будет желание, очень рекомендую ознакомиться с книгой замечательного ученого-этолога Франса де Вааля с провокационным названием «Достаточно ли мы умны, чтобы судить об уме животных?».

Автор книги — ученик нобелевских лауреатов Николаса Тимбергена и Конрада Лоренца, а также автор революционной и уже ставшей хрестоматийной работы «Политика у обезьян» — ненавязчиво, но доходчиво сбивает спесь с нашего представления о своем невероятном величии.

Наша нервная система хороша для решения тех задач, которые мы были принуждены решать в рамках своей среды обитания и для удовлетворения своих потребностей. Но мы зачастую абсолютно неспособны решить задачу, с которой легко справляются пчёлы или какие-нибудь сойки, или, наконец, шимпанзе.

Мы пытаемся приспособить искусственный интеллект под свои нужды — и это понятно, зачем еще нам его создавать? Но правда в том, что мы создаем некий «интеллект» (что бы это ни значило), который уже живет своей жизнью, активно эволюционирует — и не факт, что не добьется в этом тех же успехов, что и наш вид, подвергший все остальные тотальному межвидовому геноциду.

«Нам надо прекратить изображать из себя великих творцов, которые сохраняют контроль над тем, что мы делаем, и начать думать о своей будущей роли. Возможно, нас ожидает та же судьба, что постигла смиренную митохондрию, простую клетку, которая была когда-то давным-давно поглощена большей клеткой. Она отказалась от самостоятельной жизни, чтобы стать электростанцией для своего носителя, в то время как носитель перестал самостоятельно вырабатывать энергию, чтобы сосредоточиться на других задачах. Оба извлекли пользу из этого процесса симбиогенеза. Не происходит ли то же самое с нами?»

Сьюзан Блэкмор, психолог, профессор Университета Плимута

Тот феномен, который мы по сложившейся традиции обозначаем словосочетанием «искусственный интеллект», не предполагает человекоподобия по существу, а уж тем более во внешнем облике.

Неудивительно, что попытка воспроизвести человеческое существо из металла, транзисторов и проводов, эдакого Голема, но на новый — технологический — манер, разумеется, была обречена на неудачу.

Но была ли подобная стратегия в принципе верной?

Если верить еврейской мифологии, сделанный праведником Лёвом глиняный истукан был оживлен мистическими силами Каббалы. То есть дух был сказочным образом внесен в эту куклу. Ожидать же от инженеров тех же чудесных мистических сил как минимум странно.

Конечно, ничего «такого» мы внести в машину, оснащенную каким угодно мощным искусственным интеллектом, не можем. Она или создаст какие-то специфические, интересующие нас эффекты, или нет. Мы же не герои ближневосточного фольклора и даже не герои из вселенной Marvel.

И с чего мы вообще взяли, что, создавая искусственный интеллект, мы должны кудесничать на манер древнееврейского Иеговы?

Как выясняется, идти старым, добрым, проверенным путем эволюции — последовательно, от меньшего к большему — куда более разумно, чем указывать искусственному интеллекту, каким он должен быть и, главное, каким образом ему этого следует добиться.

В конце концов, эволюционные принципы действительны сами по себе, а субстрат, на котором они себя проявляют, не так уж и принципиален. Вполне возможно, что на кремниевом или каком-то другом ненуклеотидном субстрате все будет происходить даже лучше и быстрее.

С учетом тех технологических возможностей, которыми мы уже располагаем, в этом, мне кажется, можно даже не сомневаться.

_________________

1 Не то чтобы я как-то пропагандировал или опровергал «биогенетический закон», просто использую как образ.

2 Правда в том, что до 25 лет молодые люди не представляют свое будущее, а лишь в лучшем случае как-то его себе воображают — без здравомыслия и осознания возможных последствий.

3 Кстати сказать, у человека рудименты «узловой нервной системы» сохранились, но представлены только в вегетативном отделе нервной системы.