«Мы уже смотримся в “Черное зеркало”». Дискуссия «Сноба» об искусственном интеллекте

Егор Летов был голосом поколения Х в России, а спустя 8 лет после его смерти появился проект «Нейронная оборона»: созданный разработчиками «Яндекса» алгоритм после анализа текстов Летова «написал» новые стихи в стиле музыканта. Те, кто не помнит песен «Гражданской обороны» наизусть, могут запутаться. Это была одна из первых попыток заставить компьютер имитировать творческую деятельность, и она выглядела наивно, но нейросети буквально каждый день становятся «умнее». Сможет ли когда-нибудь нейросеть, обученная на произведениях Пушкина, создать новую «энциклопедию русской жизни» — «Евгения Онегина 2.0»? Станет ли творчество машин вневременной классикой?

Рэй Курцвейл, известный футуролог и технический директор Google, в своем прогнозе на ближайшие 80 лет говорит о том, что к 2045 году земля превратится в один гигантский компьютер. Эти прогнозы вселяют как надежду, так и страхи. «Сноб» пригласил экспертов, которые рассказали, по каким сценариям может развиваться общество в эпоху господствующего искусственного интеллекта.

Участники дискуссии:

Лилия Земнухова, социолог, научный сотрудник Социологического института РАН и Центра исследований науки и технологий Европейского университета в Санкт-Петербурге;

Павел Лукша, профессор практики Московской школы управления СКОЛКОВО, основатель инициативы Global Education Futures, соавтор проекта «Атлас новых профессий»;

Артур Хачуян, генеральный директор SocialDataHub, сервиса социальной медиааналитики и сбора открытых данных;

Павел Макеев, программный директор проекта «Сноб».

Перед началом дискуссии «Сноб» провел небольшой опрос — слушатели участвовали в нем с помощью системы электронного голосования.

На вопрос «Сможет ли робот испытывать чувства?» 47% опрошенных ответили положительно, 53% — отрицательно.

В том, что робот может создать оригинальное произведение искусства, уверены 77% гостей, а 23% не верят в это.

Наконец, ответы на вопрос «Сможет ли робот заменить человека на работе в обозримом будущем?» распределились так: 85% — да, 15% — нет.

Мы решили задать гостям те же вопросы и после окончания дискуссии, чтобы выяснить, повлияют ли на их мнение презентации наших экспертов.

Когда нас заменят роботы

Павел Лукша: В 2017 году в Китае произошел скандал: некий поэт Сяо Се выпустил 4 книги стихов, а потом оказалось, что их «написал» искусственный интеллект.

Артур Хачуян: В современном искусстве множество примеров творчества роботов и нейросетей. Но может ли произведение считаться оригинальным, если нейросеть обучена на выборке из литературы определенного автора? Многие считают, что нет. С другой стороны, современные писатели тоже выросли на классике.

Павел Макеев: В Google стремительно набирает популярность запрос «В каких профессиях роботы заменят людей». Притом, когда ВЦИОМ опросил 2300 человек в России, волнует ли их тема роботизации, выяснилось, что 73% опрошенных совершенно не волнует, 18% думали об этом чаще одного раза, 7% участников опроса однажды посещала эта мысль.

Лилия Земнухова: В Германии, Великобритании и Финляндии совсем другое распределение ответов в подобном опросе. Там, где активно идет роботизация судебной системы или медицины, гораздо больше людей, которые не просто об этом задумываются, но и представляют, заменят ли их роботы на рабочем месте в ближайшее время.

Павел Лукша: Мне этот опрос напоминает ситуацию с Брекзитом: когда в Великобритании проводили опрос «Хотите ли вы, чтобы наша страна вышла из Евросоюза», многие решили попуглить, что такое Евросоюз.

Лилия Земнухова: Как сказал писатель-фантаст Уильям Гибсон, будущее уже наступило, но оно очень неравномерно распределено. Я слежу за тем, как технологическое развитие влияет на человечество и как общество контекстуализирует развитие технологий. За всеми новшествами стоит представление разработчика о том, как внедренная им технология будет развиваться в обществе. В ряде институций вроде ЦЕРН существуют комиссии по социально-культурным и этическим вопросам, и они сопровождают проекты, которые могут в дальнейшем поменять ценности общества, его структуру и этические установки. Исследователи Центра STS, в котором я работаю, стараются задавать больше вопросов и делать критические замечания, которые касаются вышеперечисленных аспектов общественной жизни. Нас интересует дискурс, который складывается вокруг внедрения искусственного интеллекта. Один из каналов распространения информации о том, каким может быть технологическое будущее и что может произойти с обществом, когда оно наступит, — это, как ни странно, научная фантастика. Когда исследователи при оценке той или иной ситуации понимают, что ее описывал давным-давно писатель-фантаст, они не сильно удивляются — скорее, удивление вызывает тот факт, что людям удалось реализовать технологический проект, который эту ситуацию создал.

Наше восприятие меняется в силу того, что мы начали осознавать технологии неотделимыми от нас. Человек — это в том числе и его репрезентация в социальных сетях. Человек «собирает» образ своего собеседника и из той информации, которую тот публикует о себе в интернете.

Рэй Курцвейл предположил, что к 2045 году появятся наноботы или нанороботы, которые будут создавать иллюзию присутствия человека там, где его нет. Они будут делать какие-то механические вещи за нас, а также воспроизводить нашу интеллектуальную деятельность, а мы будем где-то заниматься чем-то другим — и мне интересно, чем же мы будем заниматься. Интересно также, будем ли мы помнить о том, что общаемся с наноботами вместо живого собеседника, или наше понимание того, что такое человек, изменится? Один из разработчиков ИИ сказал, что мы перейдем точку невозврата в развитии цифрового интеллекта, когда роботы не просто начнут общаться между собой, но и самостоятельно приходить к выводу о том, что у кого-то из них получается не так.

Павел Макеев: Какой самый жуткий сценарий из сериала «Черное зеркало» может, по вашему мнению, воплотиться в жизнь?

Лилия Земнухова: Проще спросить, какой из этих сценариев не отражает реальность — в этом сериале почти все серии имеют отношение к сегодняшней жизни. На мой взгляд, самые страшные сценарии — те, в которых говорится не о том, как технологии нас поработят, а о том, как будут раскрываться человеческие пороки в мире новых технологий. Одним словом, больше всего пугают серии, в которых нам дают понять, какими будем мы сами, и поднимаются вопросы этики.

Павел Макеев: Павел Лукша, соавтор проекта «Атлас новых профессий», наверняка сможет рассказать, в каких областях нас точно потеснят роботы.

Павел Лукша: У людей творческих профессий, определенно, есть шанс. Автоматизацию двигают два фактора: экономическая эффективность (читай: жадность) и лень. Где-то между ними и находится автоматизация: в области, которую не жалко автоматизировать и в которой лень работать руками. Будущее наступает не вдруг — оно определяется социальными, демографическими и другими тенденциями. Вопрос о том, в каких профессиях людей заменят роботы, актуальный — кто-то наверняка видел презентацию робота-секретаря от Google, который записывал клиента на стрижку по телефону, специально делал паузы после реплик собеседника и говорил «угу». Но вопрос этот пока не очень острый.

Что станет с этикой в новом цифровом мире?

Павел Лукша: К прогнозу Курцвейла о том, что Земля превратится в цифровую машину, уже можно начинать прислушиваться, потому что с развитием нейросетей компьютерные технологии стали прогрессировать быстрее, чем ожидалось. Возникает вопрос о том, как будут вести себя роботы, если мы дадим им автономность и тела. Интересно также, какой станет психика человека, живущего в цифровой реальности. Для меня самый жуткий сюжет «Черного зеркала» — о том, как люди сидят в боксах и вынуждены постоянно смотреть шоу на экране, и когда один из них пытается устроить бунт и убить себя, это тоже превращают в коммерческий продукт — становится ясно, что из цифровой тюрьмы не уйти. Сложно предсказать, какие аффекты мы будем наблюдать у себя, когда сможем применить новые цифровые технологии.

До начала XX века люди радикально не отличались от других видов. В середине прошлого века мы вступили в эпоху антропоцена — уровень человеческой активности начал оказывать необратимое воздействие на Землю. Кроме того, мы первый биологический вид, представители которого смогли установить связь друг с другом в масштабах всей планеты. Это открывает возможность для того, чтобы воочию увидеть эффект «планетарного мозга», о котором много говорят. Также мы перешли в режим самоуправляемой революции с появлением технологий вроде CRISPR (технология направленного редактирования генов. — Прим. ред.), которая позволяет нам менять геном у сформировавшихся существ. Наконец, зачатки автономности техносферы, которые мы наблюдаем, дают понять, что зарождается нечто, чего планета доселе не знала. Это даже не жизнь в классическом ее понимании, а что-то совсем другое.

Около 100 лет назад человечество с вероятностью 5% могло повлиять на свое исчезновение, но за XX век мы открыли для себя множество новых возможностей для этого, и за текущий век их станет еще больше — теперь вероятность самоистребления составляет 95%. С угрозой ядерной войны мы худо-бедно справились с помощью коммуникации, но что из себя может представлять нанотехнологическое и биологическое оружие, пока даже нельзя предположить. Для создания биологического оружия не нужна сверхдорогая лаборатория, поэтому группа исследователей, которая вдруг решит начать священную
войну («Священная война» («Аль-Джихад» или «Египетский исламский джихад») запрещено на территории России *) , будет иметь все возможности по созданию технологического решения для этой войны. Ограничения технологического развития мы себе задаем сами, а значит, риск того, что мы сами себя угробим и утянем за собой всю биосферу, максимальный.

Но человечество не может остановиться в своем развитии и тем более не может начать упрощаться и уходить обратно в лес. Поэтому наша задача — научиться справляться с растущей сложностью и волатильностью глобального общества и «оседлать» прогресс, который начинает потихоньку опережать нашу мысль.

Как же нам научиться жить с растущей сложностью технологий? Есть два решения. Первое — проблему растущей сложности будет решать искусственный интеллект, потому что мы сами не до конца понимаем окружающие нас технологии. Некая машина будет брать эту сложность на себя и управлять ею. Обратная сторона этого процесса — вероятно, машина однажды перестанет понимать, зачем ей мы. Второе решение — необходимо развивать нашу, человеческую, способность к плотному сотрудничеству на новом уровне, а именно в масштабе всей планеты. Таким образом, мы будем буквально коллективным мозгом постигать новую сложность технологий. Причем второй сценарий не утопический, а оптимистично-реалистический, и у нас есть для этого ресурсы.

Выбор баланса наших отношений с машиной — меньший из выборов, а больший — это выбор наших собственных путей жизни. Человечество решало задачу перехода к новому качеству жизни несколько раз за свою историю — всякий раз придумывался не только новый образ жизни, но и новая этика и способ коллективно мыслить и действовать.

Артур Хачуян: Я думаю, искусственный интеллект не решит истребить человечество, и вот почему. Наше сознание формируется на основе собственного опыта. Задача человека, создавшего ИИ, — его как-то социализировать. Если ИИ зайдет в интернет и изучит историю человечества, вряд ли он решит его уничтожать. Это только в голливудских фильмах главный злодей мечтает уничтожить человечество — но кем он будет править, как будет жить без армии рабов? Искусственный интеллект обвиняют в расизме, но он просто обучен определенной информации: например, ИИ, занимающийся подбором персонала, выберет белую женщину 35 лет потому, что она для живых эйчаров — идеальный кандидат, и программа это знание усвоила. История с расистскими высказываниями чат-бота просто объясняется тем, что в переписке большинства подростков присутствует язык ненависти. Это не значит, что подростки целиком и полностью такие, но бот, обученный на их риторике, выдает подобные высказывания «всерьез».

Как изменится «Большой брат» в будущем?

Павел Лукша: Угроза того, что роботы решат истребить человечество, минимальна. Меня больше заботит то, что нами, людьми, довольно просто манипулировать, и мы сами не понимаем, насколько активно нами манипулируют. Когда-то весь мир разделится на тех, кто создает различные электронные платформы, и тех, кто ими пользуется. Поведение человека хорошо изучено, и можно смодерировать его с помощью кодовых слов, звуков и так далее. Я думаю о становлении такого общества, по сравнению с которым «1984» покажется милым вегетарианским вариантом. Китай уже начал эксперимент по внедрению социального рейтинга, в рамках которого собираются данные о поведении человека в соцсетях и онлайн-играх — на основании этих данных человеку дают больше или меньше возможностей для личностного роста и улучшения качества жизни.

Артур Хачуян: Раз уж мы постоянно упоминаем «Черное зеркало», то скажу, что одна из моих любимых серий как раз про то, как люди стали присваивать друг другу социальный рейтинг. Я занимаюсь сбором открытых данных в соцсетях. Вспомните ответ на свой секретный вопрос, который вы придумали для открытия счета в банке. А теперь подумайте, можно ли получить ответ на этот вопрос, если почитать ваши соцсети — особенно если нужно узнать девичью фамилию матери или кличку домашнего животного.

Владельцы многих домашних животных заводят им аккаунты в инстаграме (Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов ‒ социальных сетей Facebook и Instagram запрещена на территории России *) . Facebook (Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов ‒ социальных сетей Facebook и Instagram запрещена на территории России *) и VK сейчас сделали интегральные ленты, которые позволяют показать вам еще больше рекламного контента, и связи среднего россиянина в социальных сетях выглядят как тысячи звеньев между ним, его друзьями и друзьями друзей. Эти тысячи человек видят ваш контент и могут с ним и с вами как-то взаимодействовать, например, распространить его. На основе открытых данных можно понять интересы человека, его мобильность, физические данные. Самый занятный запрос — лайки, которые пользователи ставят эротическому контенту. Эти параметры интересуют руководство банков, поскольку, если взрослый семейный мужчина лайкает молодых девушек, это значит, что он с вероятностью 85% заинтересуется кредитной картой.

Акбарджон Джалилов, который устроил теракт в петербургском метро, удалил в 2010 году аккаунт и наплодил фейков. Но после этого он продолжил общаться с теми же людьми и потреблять тот же контент. Так он и способствовал своей деанонимизации, несмотря на то, что он тщательно скрывался. Связь между людьми можно вычислить по одному лайку. Но я рассказываю о вещах, которые разные компании успешно делают уже давно. Сейчас же по фотографиям человека из соцсетей пытаются воссоздать его образ, а по его «сториз» в
инстаграме (Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов ‒ социальных сетей Facebook и Instagram запрещена на территории России *) — голос. В ближайшие 10 лет информации о каждом из нас в открытых источниках будет настолько много, что возможно будет создать некий слепок с нашего сознания и модель человека, который будет способен поддерживать беседу «как живой». Моих родителей пока идея оцифровать и «оживить» мертвого родственника приводит в ужас, а я не вижу в этом ничего странного.

После дискуссии «Сноб» снова провел опрос, и ответы гостей распределились так:

«Сможет ли робот испытывать чувства?» — 30% да и 70% нет (вместо 47% да и 53% нет);

«Может ли робот создать оригинальное произведение искусства?» — 74% да и 26% нет (вместо 78% да, а 22% нет);

«Сможет ли робот заменить человека на работе в обозримом будущем?» — 61% да и 39% нет (вместо 85% да и 15% нет).

Автор: Юлия Гусарова