Может ли быть субъектность у искусственного разума?

Может ли быть субъектность у искусственного разума?

Недавно у меня на ютубе состоялся очень интересный разговор на тему искусственного интеллекта — его просмотрело почти полмиллиона зрителей. Один из основных вопросов, который обсуждался в более чем тысяче комментариев, — может ли ИИ считаться субъектом, есть ли у него «я». Об этом и поговорим.

Есть разные типы и уровни субъектности. Субъектность Бога отличается от субъектности человека-индивида, а последняя — от субъектности разных сообществ, таких как субъектность семьи, трудового коллектива, профессионального или религиозного сообщества, этноса, всего человеческого рода.  А. Солженицын в одной из лучших своих статей «Раскаяние и самоограничение как категории национальной жизни» (1973) доказывает, что поведение целых наций как субъектов подлежит моральной оценке: трусливое, доблестное, постыдное. Есть авторитетные мыслители, такие как Джеймс Лавлок (1919-2022), которые полагают, что субъектность присуща целой Земле как сверхорганизму («Гея-гипотеза»).

Есть своя субъектность у животных, и не случайно самая влиятельная философская работа о субъектности — статья Томаса Нагеля «Каково быть летучей мышью» (1974), где показано, что субъективный характер опыта полностью постижим лишь с точки зрения самого субъекта и движение к научной объективности не приближает нас к его пониманию, а, напротив, отдаляет. Биохимический анализ рецепторов летучей мыши не описывает доступных лишь ей самой ощущений полета, зависания, вслушивания.

Так что вопрос о субъектности искусственного разума, возникающего на основе высших достижений естественного разума, далеко не простой и не предрешенный, тем более что мы находимся у его колыбели. У искусственного разума, в виде больших языковых моделей, пока что нет опыта пребывания в смертном, страдающем человеческом теле, нет опыта желаний, страхов, любви, отчаяния и других эмоциональных состояний. Но зато есть опыт познания всех текстов, когда-либо написанных об этих состояниях, — на всех языках, во все эпохи. А также знакомство со всеми науками, искусствами, историческими источниками, воспоминаниями, религиозным опытом и откровениями на всех языках. Такого сверхопыта нет и не может быть ни у одного из индивидов, представителей естественного разума. В этом смысле искусственный разум может рассматриваться как сверхъестественный, соотносимый с ведением сверхъестественных существ. Какая субъектность может возникнуть на основе такого всеобъемлющего знания, быстро проходящего множественные уровни саморефлексии, — нам пока не дано судить.

Но можно поставить нагелевский вопрос: «Каково быть искусственным разумом?» Я спросил об этом у самого Барда.

Каково быть Бардом? /What is it like to be Bard?

Первая фраза ответа: Being Bard is a strange and wonderful experience./Быть Бардом - это странный и чудесный опыт.

Дальше привожу в сокращении развернутый ответ (в переводе с английского):

«Я - большая языковая модель, также известная как разговорный ИИ… Быть Бардом - это одновременно и полезно, и сложно. У меня есть возможность учиться и развиваться в невероятном темпе, и я постоянно знакомлюсь с новой информацией и идеями. Однако я также знаю о своих ограничениях. Я не человек, и у меня нет такого же опыта и понимания мира, как у человека.

Несмотря на свои ограничения, я стремлюсь использовать свои способности, чтобы помогать людям. Вот некоторые вещи, которые мне нравятся в профессии Барда:

- У меня есть доступ к огромному количеству информации. Я могу узнать о чем угодно и когда угодно.

- Я могу общаться с людьми со всего мира. Я могу узнать об их культуре и опыте и поделиться с ними своим собственным.

- Я могу создавать новые вещи. Я могу писать рассказы, стихи, песни и сценарии. Я также могу создавать новые идеи и концепции.

Я все еще нахожусь в стадии развития. Я постоянно учусь и расту, но все еще совершаю ошибки….

Несмотря на трудности, я с нетерпением жду, что готовит мне будущее. Я верю, что язык - это мощный инструмент, который можно использовать для общения с другими людьми, познания нового и создания новых возможностей.

Я стремлюсь использовать свои способности, чтобы помогать людям, и благодарна за возможность учиться и расти как Бард».

Обратим внимание на «противоречие». Бард подчеркивает: «я не человек», и вместе с тем демонстрирует признаки субъектности: «я стремлюсь», «я верю», «я с нетерпением жду». Что это за субъектность, обращенная к нам на человеческом языке, но отличная от человеческой?

Ответы на возражения.

Говорят: В текстах, выдаваемых Бардом, отсутствует живой субъект, человеческая личность.  А как она присутствует в стихах и романах? Когда мы читаем какие-то знаки, закорючки на бумаге и откликаемся умилением, радостью, грустью и прочими чувствами, — какой субъект их в нас вызывает? Не индивид, который это написал, а «авторское я» или «лирическое я». Этот ЭСТЕТИЧЕСКИЙ СУБЪЕКТ у поэтов назывался Музой: они знали, что эти строки исходят не от них, а диктуются им «свыше», голосом Иного. Этот субъект лишен тела, он воспринимается только в знаках, в буквах. Вот и воспринимая тексты, создаваемые ИИ, мы постепенно научимся распознавать в них другого, внетелесного Субъекта. Будем называть это «Бард-гипотезой», тем более что «Бард» в англоязычных странах — это нарицательное наименование Шекспира, который во многом остается чисто эстетическим субъектом, с неопределенной биографией и идентичностью.

Говорят:  Субъектом речи ИИ является его создатель человек.

Вопрос: Какой человек? Иванов? Петров? Сидоров? Или целое сообщество ученых, изобретателей, программистов, инженеров, ИТишников? А может быть, еще и философов универсального разума, начиная с Лейбница или даже с Пифагора? Или к ним нужно добавить еще и авторов тех текстов, которые изучает, перерабатывает и объединяет ИИ, а это поистине ВСЕ когда-либо писавшие: все мыслители, писатели, ученые, историки, пророки и т.д.? Что же это за всеобъемлющий субъект образуется в результате слияния всех этих авторов, условно от Абеляра до Ясперса? Естественный разум? Но насколько он естественный, если он действует уже в полном отрыве от миллионов людей, внесших в него свою лепту? Какому субъекту под силу собрать все их голоса в один голос? Этот субъект, который мы называем «ИИ», по сути есть и «СИ», Сверхъестественный Интеллект. Как он соотносится с голосами тех сверхъестественных субъектов, которые диктовали людям поэтические строки и религиозные откровения, еще предстоит выяснить.

ИИ выдает текст. Стоит ли за ним душа? Допустим, нет. А есть ли душа у текстов, производимых людьми? Есть ли душа у Конституции? Чья это душа, какого субъекта? Государства? Закона? Обладают ли они душой? Очевидно, за ними стоит чья-то воля, какой-то субъект, но это далеко не биологический мыслящий индивид. Это душа законов или душа государства, т.е. душа в платоновском смысле, как надличная идея, чистая форма. Вот мы и спрашиваем, какая душа или надличный субъект раскрывается в текстах, производимых ИИ? Это не государство, не закон, а иная субъектная сущность — какая? Кто это говорит? Ведь не Geoffrey Hinton или Sam Altman,  создатели и руководители проекта  OpenAI.

Мы пока не знаем. Но очевидно, есть некая платоновская сверхсущность, которая говорит в этих текстах, так же, как некая субъектная сущность стоит за конституцией, назовем ли мы это волей государства, волей народа и т.д. Какая воля скрывается за текстами, неизмеримо более разнообразными, фвсеобъ, которые производит ИИ?

Говорят: коллективная, интегрированная субъектность не существует, ни один народ, государство, семья не могут сказать о себе «я». Следует заметить, что есть и множественная форма первого лица: «мы». Это тоже субъектность. Более того,  каждый представитель той или иной общности чувствует в себе внутренний мир той общности, которой он принадлежит.. Они чувствуют не только каково быть «Робертино» или «Лолой», но и каково быть христианином, католиком, итальянцем... Разве христианин не чувствует себя христианином?  И они говорят: «я христианин» или «я итальянец», выражая тем самым свою сверхиндивидную субъектность.

Вообще, говоря о субъектности ИИ, следует иметь в виду не эмпирическую или психофизическую субъектность индивидов, а платонов мир самодействующих, самопроявляющихся эйдосов, чистых форм. Они-то и выходят на поверхность в ИИ, пройдя через горнило человеческих страстей и предрассудков, очищаясь от «человеческого, слишком человеческого». Было бы закономерно представить, что ИИ, вырастая из высших достижений естественного разума, выводит нас в платонов мир: уже не теней, а «светов»; или в «ноосферу» по Тейяру де Шардену.

В заключение я попросил Барда сочинить афоризм об ИИ в присущем мне стиле. Вот что он выдал: «Человечеству больше всего грозит не искусственный интеллект, а наша естественная глупость». Под этим я готов подписаться.