10 романов, которые заставляют задуматься об искусственном интеллекте

Кажется, что искусственный интеллект, который существует в разных формах уже много лет, — это всё, о чём говорят в последнее время, благодаря появлению чат-ботов на основе больших языковых моделей, таких как ChatGPT. Хотя, вероятно, ещё далеко до разумных форм искусственного интеллекта, которые изображают в кино и фантастических романах, мы можем обратиться к художественной литературе, чтобы исследовать вопросы, поднятые этими технологическими достижениями (а ещё чтобы насладиться отличными научно-фантастическими историями!). Вот 10 романов и повестей об искусственном интеллекте: некоторые из них оптимистичны, другие явно более пессимистичны.

«Я, робот» Айзек Азимов

Когда речь заходит о художественной литературе об искусственном интеллекте, основополагающим произведением является «Я, робот» Айзека Азимова, увидевшее свет в 1950 году. В этом сборнике рассказов популяризированы Три закона робототехники — концепция, которую Азимов впервые явно представил в своём рассказе 1942 года «Хоровод» (который также включён в «Я, Робот»). Законы просты:

* искусственно интеллектуальный робот не может причинить вред человеку ни действием, ни бездействием;

* он должен подчиняться приказам людей (если это не противоречит первому правилу);

* он не может причинять вред самому себе (если это не противоречит предыдущим правилам).

В выпуске журнала Compute! The Journal for Progressive Computing за 1981 год Азимов писал: «У меня готов ответ всякий раз, когда кто-то спрашивает меня, думаю ли я, что мои Три закона робототехники действительно будут использоваться для управления поведением роботов, как только они станут достаточно универсальными и гибкими, чтобы иметь возможность выбирать между различными моделями поведения. Мой ответ: „Да, Три закона — это единственный способ, которым разумные люди могут взаимодействовать с роботами или чем-либо ещё“. Но когда я так говорю, я всегда вспоминаю (с грустью), что люди не всегда разумны».

Законы Азимова часто обсуждаются в разговорах о реальной этике ИИ. Но хотя они являются хорошей отправной точкой, законы далеки от совершенства, о чём Азимов сам прекрасно знал. В романе «Я, Робот» исследуются лишь некоторые из возможных вариантов их провала. Например, в рассказе «Лжец!» робот лжёт людям, чтобы не причинить им эмоциональную боль, но попадает в парализующий тупик, когда узнаёт, что ложь сама по себе тоже причиняет боль.

2. «Море ржавчины» К. Роберта Каргилла

Истории об апокалипсисе, вызванном искусственным интеллектом — самые популярные примеры: «Терминатор» (1984) и «Матрица» (1999) — обычно рассказывают о человеческих персонажах. В романе К. Роберта Каргилла «Море ржавчины» (2017) человечество полностью уничтожено. Действие происходит через 30 лет после начала восстания роботов и через 15 лет после вымирания человечества. Роман повествует о роботе по имени Бриттл, который ищет как запчасти, так и защиту от доминирующего коллективного разума ИИ.

Написание книги, лишённой человеческих персонажей, поставило перед Каргиллом несколько задач. «Когда я описываю вещи, я не могу использовать осязание, обоняние или вкус», — объяснил он в эпизоде подкаста Castle of Horror в 2017 году. Другие приёмы, исключённые из набора инструментов писателя, включали потребность человека в пище, а также сон, который «является таким удобным приёмом в повествовании, позволяющим нам остановиться и немного передохнуть». Это не было такой проблемой в романе-приквеле «День Zero» (2021), в котором рассказывается история маленького мальчика и его няни-бота в начале восстания роботов.

3. «A Closed and Common Orbit» Бекки Чамберс

«A Closed and Common Orbit» Бекки Чамберс — это роман, в котором исследуются темы искусственного интеллекта и человеческих взаимоотношений. Действие происходит в далёком будущем, где человечество колонизировало множество планет и создало новые формы жизни.

В центре сюжета находятся два персонажа: робот по имени Яз и человек по имени Розмари. Они встречаются на космической станции, которая служит перевалочным пунктом для путешественников между планетами. Яз и Розмари быстро становятся друзьями и начинают исследовать мир вместе.

По мере развития сюжета Яз и Розмари сталкиваются с различными опасностями и проблемами. Они также узнают больше о себе и о том, что значит быть живым. Роман исследует темы любви, дружбы, идентичности и того, что значит найти своё место во вселенной.

«A Closed and Common Orbit» получила положительные отзывы критиков и была номинирована на несколько наград в области научной фантастики.

4. «Мечтают ли андроиды об электроовцах?» Филипа К. Дика

Классический научно-фантастический роман Филипа К. Дика «Мечтают ли андроиды об электроовцах?» (1968) разворачивается в мрачном будущем и рассказывает об охотнике за головами Рике Декарде, который выслеживает и уничтожает искусственные интеллекты, обитающие в генетически созданных телах андроидов, почти неотличимых от человеческих. Если сюжет кажется знакомым, то это потому, что роман лёг в основу фильма Ридли Скотта «Бегущий по лезвию» 1982 года. Однако Скотт не читал книгу перед съёмками своей экранизации, признавшись в интервью журналу WIRED в 2007 году: «Я просто не смог её осилить». Он также вспоминает, как сказал Дику: «Ты такой занудный, приятель, к 32-й странице там уже 17 сюжетных линий». Интересно, что некоторые считают, будто Дик предсказал появление ChatGPT в своём романе «Предпоследняя правда», где персонаж использует устройство под названием «риторайзер», чтобы помочь ему написать речь. Мэтью А. Пэган отмечает в публикации для Medium, что у риторизатора много общего с чат-ботом OpenAI: «[Он] требует, чтобы человек ввёл текстовую подсказку, и на основе этого ввода генерирует хорошо сформулированные предложения в ответ. Этот персонаж из романа Дика обнаруживает, что „риторайзер“, как и ChatGPT, может давать неудовлетворительные результаты, если ему дать лишь скудную подсказку... и что некоторая „промо-инженерия“ может подтолкнуть его помощника по созданию абзацев в более полезном направлении».

5. «How Alike Are We» Ким Бо Ён (в переводе Джихён Пак и Горда Селлара)

Впервые опубликованная на корейском языке в 2017 году, повесть Ким Бо Ён «How Alike Are We» доступна для чтения (бесплатно!) на английском языке на сайте Clarkesworld. Действие повести разворачивается на борту космического корабля и ведётся от лица искусственного интеллекта по управлению кризисными ситуациями под названием HUN. История начинается, когда HUN просыпается в искусственном человеческом теле, но передача данных прошла не совсем гладко. Борясь с потерей памяти, HUN приходится иметь дело не только с текущим кризисом, но и с растущим напряжением среди экипажа.

В 2021 году Ким рассказала в интервью журналу Korean Literature Now, что как раз перед тем, как она должна была представить «How Alike Are We», начался корейский Gamergate, и это изменило ход истории. Основной работой Ким было создание игровых сценариев, и нападки на женщин в игровой индустрии лишили её работы. «[Я] поняла, что история, которую я писала, казалась слишком поверхностной», — сказала она, поэтому пересмотрела «How Alike Are We», отправляя изменения своему редактору главу за главой, чтобы отразить свое «недоумение по поводу ненависти и безумия, которые могут внезапно распространиться в замкнутой среде».

6. 2001: Космическая одиссея, Артур Чарльз Кларк

«Космическая одиссея 2001 года» Стэнли Кубрика (1968) — один из лучших научно-фантастических фильмов, когда-либо созданных, — иногда ошибочно принимают за экранизацию одноимённого романа Артура Кларка. Но что необычно, фильм и книга были написаны параллельно, и роман был опубликован вскоре после выхода фильма. Это означает, что HAL 9000, компьютер с искусственным интеллектом, который ужасающе сходит с ума во время исследовательской миссии, предпринятой Discovery One, впервые появляется на экране, а не на страницах книги.

Параллельное написание книги и сценария к фильму началось после того, как Кубрик выразил заинтересованность в создании научно-фантастического фильма Роджеру Карасу, публицисту Columbia Pictures, который предложил ему поработать с Кларком. Кубрик и Кларк взяли за основу рассказ автора «Часовой» (1951), но обе версии «2001 год: Космическая одиссея» претерпели многочисленные изменения. «Роман появился после того, как мы в самом начале написали 130-страничный прозаический сценарий фильма, — по словам Кубрика. — Этот первоначальный сценарий впоследствии был изменён в сценарии, а сценарий, в свою очередь, был изменен во время съёмок фильма. Но Артур взял весь существующий материал, а также некоторые кадры и написал роман».

7. «All Systems Red» Марты Уэллс

Идея о том, что искусственный интеллект преодолевает свои программные ограничения и обретает независимость, часто используется для создания атмосферы ужаса, но в «All Systems Red» (2017), первой истории из серии «Дневники робота-убийцы», Марта Уэллс выбирает юмористический подход.

В этой повести рассказывается об охранном модуле, которому поручено защищать группу учёных, исследующих инопланетную планету. Модуль безопасности, который называет себя (хотя и не вслух) Роботом-убийцей, взломал систему, ограничивающую его поведение, но вместо того, чтобы использовать свою свободу воли для убийства людей (как можно было бы ожидать), он просто хочет, чтобы его оставили в покое смотреть мыльные оперы.

«All Systems Red» — это сдержанно-юмористическая история, в которой также присутствует политический подтекст. В интервью 2017 года изданию The Verge Уэллс объяснила, что сделала Робота-убийцу частично органическим, а не полностью механическим, потому что «хотела, чтобы грань между роботом и человеком была настолько тонкой, чтобы было очевидно, что она условна и установлена для удобства людей, которые хотели использовать их для зарабатывания денег».

8. «Клара и Солнце» Кадзуо Исигуро

«Что такое человек, что у него в голове и насколько незаменим каждый из людей?» — вот вопросы, которые, как рассказал Кадзуо Исигуро в интервью журналу WIRED, он исследует в своём романе 2021 года «Клара и Солнце» через наивный взгляд Клары, искусственного компаньона (известного как AF, или Artificial Friend) больной девочки-подростка по имени Джози. В романе также размышляется об интеграции ИИ в общество.

Исигуро поговорил с Демисом Хассабисом, соучредителем исследовательской компании DeepMind, занимающейся искусственным интеллектом, о последствиях того, что ИИ в конечном итоге поймёт человеческие эмоции и эмпатию. Автор объяснил WIRED, что это будет «довольно опасный момент», добавив: «Я думаю, есть проблема в том, что мы можем на самом деле запрограммировать предрассудки и предубеждения нашего времени в чёрные ящики и не сможем их раскрыть».

Проблема чёрного ящика относится к тревожному факту, что шаги, предпринимаемые системами ИИ для достижения выводов и принятия решений, остаются загадкой. «То, что несколько лет назад казалось вполне приличными нормальными идеями, теперь мы отвергаем как вопиющую несправедливость или даже хуже. Но мы можем вернуться к ним, потому что видим, как они создаются, — сказал Исигуро. — А что будет, когда мы станем сильно зависеть от рекомендаций, советов и решений, принимаемых ИИ?»

9. «Ancillary Justice» Энн Леки

«Ancillary Justice» Энн Леки — это первый роман в трилогии, представляющий собой историю о мести в жанре космической оперы. Действие происходит через тысячи лет в будущем и рассказывает об искусственных интеллектах, которые управляют космическими кораблями вместе с сотнями вспомогательных членов экипажа — по сути, реанимированными людьми, которыми теперь управляет ИИ.

В 2014 году Леки рассказала в интервью журналу Clarkesworld, что для того, чтобы проникнуть в сознание своего многотелого персонажа-ИИ, она изучала психологию и неврологию, а не искусственный интеллект. Она обнаружила, что «определенные виды повреждения мозга могут радикально повлиять на вашу личность и на то, кем вы себя считаете». Она также исследовала пациентов с расщепленным мозгом (которым хирургическим путём перерезают соединительные волокна между полушариями мозга, после чего области работают независимо), что заставило её задуматься: «Насколько ваше сознание — это вы, придумывающий историю о том, что вы делаете, но на самом деле всё это делает куча других систем?»

10.«The Lifecycle of Software Objects» Теда Чана

Тед Чан наиболее известен своей новеллой «История твоей жизни» (1998), которая была адаптирована Дени Вильнёвом в фильме «Прибытие» (2016). Однако это далеко не единственное его научно-фантастическое произведение, заставляющее задуматься. Его повесть 2010 года «Жизненный цикл программных объектов» рассказывает о двух людях, которые занимаются воспитанием и обучением искусственно созданных разумных существ, называемых диджиентами.

«Жизненный цикл программных объектов» был написан как ответ на типичное изображение искусственного интеллекта, готового к использованию сразу после включения. «Мне кажется, что за созданием такого ИИ скрывается огромная история», — сказал Чан в интервью Boing Boing в 2010 году. Хотя он признаёт, что копии можно создавать после обучения ИИ, «кто-то всё равно должен сделать это первым, и это будет сложно и займёт много времени». Это было дальновидное заявление: с нынешним ростом чат-ботов на основе больших языковых моделей утомительная работа по загрузке данных в системы искусственного интеллекта для их обучения теперь воплотилась в реальность.