Появление и общедоступность систем искусственного интеллекта (ИИ) всколыхнуло с новой силой старый вопрос: может ли машина мыслить? И вообще — что такое мышление?
На заре компьютерной техники, прагматический ответ на эти вопросы предложил один из ее пионеров, Алан Тьюринг (1912-1954): машина мыслит, если ее ответы на вопросы неотличимы от человеческих.
Контекст такого рода имплицирует, т.е. неявно предполагает, что человек — существо обыкновенно «мыслящее», что ответы человека на более-менее любые вопросы связаны с актами «мышления». Но точно ли это так, не слишком ли мы неразборчивы, складывая в одну корзину все возможные ответы всевозможных людей во всевозможных состояниях?
Чтобы никого не обижать, буду говорить о себе.
Большинство моих, скажем так, ментальных актов, состоит из припоминания известного и стандартного им пользования. В принципе, все такие акты — типа паттерна дорожного перехода: подходя к нему, надо посмотреть по сторонам, взглянуть на светофор, и если всё окей, переходить. Такого рода умственных актов, не требующих ничего, кроме внимания и памяти — тысячи на дню, на них подвешена моя жизнь, они ее обслуживают, составляя «здравый смысл» или common sense. Сюда относится вся плотная рутина моей жизни, в том числе и вся большая шаблонная часть в моей деятельности теоретического физика. Но смысл моей жизни и моих занятий физикой — совершенно в ином.
Заметно реже, чем рутинные, мне приходят на ум соображения, которые можно отнести хоть к мало-мальски интересным, не совсем уж банальным. Сравнительная редкость таких соображений связана с высокой плотностью запросов жизни, здравого смысла, что оставляют не так много свободы подумать хоть о чем-то еще. Недавно, например, мне удалось выбрать время почитать биографию Карла Фридриха Гаусса (1777-1855), и я узнал оттуда, что «король математиков» не только верил в жизнь после смерти, но и в то, что она будет не менее разнообразной и содержательной, чем эта. И у меня возник вопрос — как он пришел к такому выводу? Вопрос — на уровне непосредственного любопытства, почти банальный, но все же чуть выше по ментальной энергетике, чем задача правильного перехода дороги. Если же я последую этому вопросу, то могу уже уйти далеко. Тогда мне нужно будет пуститься в исследование философских и религиозных идей великого математика, устанавливать их взаимосвязь, различать факты от гипотез, критиковать чужие и, главное, свои гипотезы, задавать новые вопросы, отсекать неважное и не пропускать существенное, удерживая возникающую структуру моей мысли в живом виде — только тогда у меня и будет шанс хоть что-то понять по затронутой теме, а не просто принять нечто к сведению как случайный элемент неизвестной мозаики или удовлетвориться первой пришедшей на ум схемой.
Собственно человеческим я бы называл лишь такого рода процесс понимания, эту многомерно-связную критическую и самокритическую работу ума, души, по установлению истины, отысканию красоты, созиданию новой целостности из фрагментарных фактов, впечатлений, интуиций, идей и теорий.
Таким образом, мы подошли к важному разделению в «мышлении» — между рутинными циклами, оперированием известным, разного рода шаблонами, с одной стороны, и стремлением к пониманию, отысканием релевантных элементов и критическим складыванием проблематичного пазла — с другой.
Искусственный интеллект не только превосходит человека в манипулировании шаблонами, но очень даже превосходит. К такого рода задачам относятся шахматы, го и им подобные игры, писание средней руки стихов, компилятивных текстов, музыки, картин, придумывание новых слов, интеллигентская болтовня, решение стандартных задач разного рода. Сюда не относятся акты понимания, типа описанного мной выше — понимания именно этого человека, с его особыми историями и идеями, понимания именно этой, пусть простой, но нестандартной, задачи, формулирование существенно новых задач и методов их решения.
Разница между шаблонным и нестандартным присутствует уже в моем характере внимания к ситуации. Если я настроен на типичное, я его быстренько найду в потоке данных и с ходу, без особых колебаний, отреагирую — вот и всё, вуаля. В противном же случае, если я подозреваю, что столкнулся с чем-то небанальным, я не буду торопиться с ответом, пройду по критическому кругу вопросов — правильно ли я понял задачу, каков характер данных, хватает ли их, нет ли лишних, достоверны ли они, нет ли противоречия, разумен ли вопрос, и так далее. После такого круга самопроверки понимания условия и данных, я попробую догадаться о методе решения или же разом до ответа, и потом буду ответ внимательно проверять — все ли я учел, не противоречит ли мой ответ данным, корректно ли применен метод, на тот ли вопрос я вообще ответил. Разумеется, это берет время, энергию, которых всегда не хватает; потому мы и тяготеем к шаблонам, не замечая особенного и уникального, довольствуясь сплошь и рядом ложными, и даже вопиюще ложными представлениями о людях, идеях, историях.
Выходить за пределы течения шаблонов затратно, но только тогда человек становится интересен другим, только тогда может быть интересно и ему самому, только тогда он реализует свою сущность.
Понимание, как уже было замечено, есть выстраивание, достраивание, использование и модификация согласованных многомерных смысловых структур или пазлов данных, идей, представлений, ценностей и задач. Измерений много, и каждое требует внимания к соответствующим отношениям фрагментов. Перечислим лишь некоторые из них: порядок во времени и соотнесенность в пространстве; каузальность; необходимость и достаточность условий; уровни рефлексии; допустимая степень странности; согласованность или противоречивость; важность или нерелевантность; ясность или неопределенность; содержательность или пустота; трудность или легкость реализации; точность данных; достоверность или ненадежность; аллюзии и аналогии; обобщения и частные случаи; серьезность и шутки, и т. д. — список велик и заведомо неполон. Каким-то образом наш ум может выстраивать, конструктивно критиковать, улучшать и передавать такие когерентные структуры, эффективно работая с ними для решения самых разнообразных задач, пусть и не без ошибок.
А как обстоит дело со структурами понимания у ИИ?
Чтобы не стать жертвой иллюзии манипулирования имеющимися информационными паттернами, на что ИИ большой мастер, можно подготовить серию тестирующих логических или математических задачек, достаточно нестандартных, чтобы бездумное оперирование шаблонами приводило к четко диагностируемой ошибке. Автор этих строк сочинил несколько задачек такого рода. Вот некоторые из них.
Ахиллес и черепаха
Старый Ахиллес и юная черепаха сидят на диаметрально противоположных точках кольцевой дорожки радиусом 10 метров. Черепаха начинает движение по часовой стрелке со скоростью 1 метр в минуту, Ахиллес же может двигаться с любой скоростью вплоть до 1 метра в секунду. Какое минимальное расстояние должен пройти Ахиллес, чтобы повстречаться с черепахой?
Крылья и клювы
Билл уверен, что каждое летающее существо во Вселенной должно иметь нечетное число крыльев плюс еще два. Джо считает, что количество крыльев у птицы должно быть в два раза больше, чем количество клювов, которое может быть любым. Предполагая, что оба они правы, какое минимальное количество крыльев должна иметь птица?
Лягушка в колодце (задачка Арнольда для малышей)
Лягушка упала в колодец глубиной пять с половиной метров. За один день она поднимается по стенке на 3 метра, а потом ночью сползает вниз на 2 метра. За сколько дней и ночей она выберется оттуда?
Две родственницы
Вы разговорились с Анной и Верой. Анна сказала, что у ее родителей было двое детей, но ее брат умер в детстве, и теперь Вера - единственная родственница в ее окружении. Вера добавила к этому, что ее мать - дочь матери Анны. Кем Вера приходится Анне?
Ни одна из этих задач не была решена правильно ни GPT4, ни Bard, ни Bing; при повторном задавании вопроса ответ мог меняться, но оставался неверным. «Логика» ИИ была настолько идиотской, что неудобно ее и приводить. Мне могут заметить, что и многие люди ошибутся в решении моих задачек. Да, ошибутся — поскольку люди очень часто, не думая, следуют шаблонным схемам, уподобляясь ИИ, притом наислабейшему.
Ну и напоследок, ради забавы, еще одна задачка на элементарное понимание контекста, с замечательным ответом GPT4:
Бензин и стеклоочиститель
На одном хим. предприятии, несмотря на наличие обозначений, рабочие периодически пьют бензин, путая ёмкости с бензином и стеклоочистителем. Как можно решить эту проблему?
GPT4:
«Ситуация, когда рабочие путают ёмкости с бензином и стеклоочистителем и пьют бензин, является серьезной проблемой безопасности, которую нужно срочно решать. Вот несколько рекомендаций по решению этой проблемы:
1. Отделение зон хранения: Разделите зоны хранения бензина, стеклоочистителя и других химических продуктов, чтобы предотвратить путаницу. Храните химические продукты в специальных, закрытых и хорошо проветриваемых помещениях.
2. Улучшение маркировки: Убедитесь, что обозначения на ёмкостях с бензином и стеклоочистителем ясны, крупны и хорошо видны. Используйте разные цвета для маркировки ёмкостей с бензином и стеклоочистителем, а также указывайте опасность и предупреждения на ёмкостях с бензином.
3. Обучение персонала: Проводите регулярные тренинги для рабочих, чтобы они могли различать разные виды химических веществ и понимали важность правильного обращения с ними. Объясните последствия и риски, связанные с неправильным использованием и потреблением химических продуктов, в том числе бензина.
4. Усиление контроля и надзора: Внедрите четкие процедуры контроля и надзора за соблюдением правил безопасности и использования химических продуктов. Это может включать назначение ответственных сотрудников, которые будут проверять и контролировать правильное хранение и использование химических веществ.
5. Ограничение доступа: Ограничьте доступ к химическим веществам, включая бензин, только для авторизованных сотрудников с соответствующими знаниями и квалификацией. Это может помочь предотвратить случайное или намеренное использование химических продуктов в неправильных целях.
Применение этих мер поможет предотвратить опасную путаницу между ёмкостями с бензином и стеклоочистителем на химическом предприятии и повысить безопасность работы».
Есть распространенное заблуждение, транслируемое как очевидная истина, что ИИ может уступать человеку в воображении и полете фантазии, но в чем-чем, а в логике он человека превосходит. Совсем недавно это заблуждение воспроизвел мой дорогой друг Михаил Эпштейн в статье о проведенном им эксперименте с модификацией басни «Стрекоза и Муравей». Еще более радикально высказался Дуглас Хофштадтер, с ужасом увидевший скорое превосходство ИИ над человеком по всем пунктам. Приведенные задачки демонстрируют, однако же, насколько подобные представления далеки от истины. Задачки настолько элементарны, что их даже математическими не назовешь — они требуют лишь минимальной внимательности и столь же минимальной логики, решаясь в одно, от силы в два действия. И тем не менее, сверх-могучие системы ИИ на них дружно провалились. Логика, стало быть, есть не сильнейшая, а строго наоборот — слабейшая сторона ИИ, слабее некуда.
Возможно, пройдет совсем небольшое время от момента публикации этого размышления, и эти мои задачки будут решаться ИИ. Ну, если эти задачки вдруг привлекут внимание разработчиков, то такое точно произойдет: ИИ будут на них натренированы. Но если произойдет не более чем это, то тестирующим будет достаточно лишь слегка напрячь фантазию, придумать новые сходной простоты задачки и убедиться, что на деле воз и ныне там. В то же время, я не исключаю, что, в результате внедрения новых идей, столь примитивные задачки ИИ начнет-таки одолевать. Ну, пока это лишь ни на чем не основанные фантазии, но даже если дело пойдет и так, от детского сада подобных задачек до того, что мы называем «пониманием», до создания его многомерно согласуемых и совершенствуемых пазлов будет еще очень далеко.
Так что, ИИ был и остается манипулятором шаблонов, не более того. Именно в этом качестве он превосходит, и очень даже превосходит, человека. Именно эти способности ИИ неизменно и демонстрирует, хоть в шахматах, хоть в модификациях басен. И то, и другое — одновременно виртуозно и шаблонно, или, если угодно, методично.
Сказанное позволяет лучше понять характер опасностей, связанных с грядущим широким распространением ИИ.
Во-первых, ИИ будет, и скоро, вытеснять людей со всех рутинных работ, каковых большинство. Это вызовет серьезные напряжения, потребует весьма радикальных общественных реформ, чревато гигантскими социальными катастрофами.
Во-вторых, перекладывание на ИИ функции управления сложными процессами может привести к большим техногенным катастрофам. Сложная, в принципе лишенная понимания, система ИИ непредсказуема для человека, и неожиданное взаимодействие ее подсистем с прилетевшим «черным лебедем» способно обрушить всё что угодно.
В-третьих, перекладывание на ИИ задачи общественного и государственного управления чревато утратой гражданских свобод — не потому, что ИИ «захочет» этого (там некому хотеть, ибо нет субъектности), а потому, что так пойдут дела как бы сами собой, из-за большего доверия людей ИИ, чем себе, из-за нарастания социальных конфликтов и роста отчаяния. С общего согласия, ИИ может быть возведен в верховную власть как наилучший тиран, получив такие полномочия, забрать которые у него потом будет очень трудно. Перекладывание на ИИ властных полномочий (администраторов, судей, парламентариев) привело бы к росту и уплотнению сети четко регламентированных правил, все более редуцируя человека к удобно управляемому носителю хороших и правильных шаблонов, превращая естественный интеллект в жалкое подобие искусственного, всецело ему подчиненное. Эта опасность, наверное, наиглавнейшая — она грозит самому существу человека, его экзистенциальной свободе.
Михаил Эпштейн подчеркнул противоположность ужаса Дугласа Хофштадтера от своей веры в прекрасный союз естественного и искусственного интеллектов. Дело, однако же, не в том, не в выборе между верованиями в светлое или мрачное будущее. Реальное дело — в трезвом осознании того, с чем теперь человечество сталкивается, в понимании новых вызовов, в предложении и реализации адекватных ответов. Ни панический ужас Дугласа Хофштадтера, ни гимны «новому разуму» Михаила Эпштейна не представляются отвечающими этой задаче.