«Мы уже смотримся в “Черное зеркало”». Дискуссия «Сноба» об искусственном интеллекте

Егор Летов был голосом поколения Х в России, а спустя 8 лет после его смерти появился проект «Нейронная оборона»: созданный разработчиками «Яндекса» алгоритм после анализа текстов Летова «написал» новые стихи в стиле музыканта. Те, кто не помнит песен «Гражданской обороны» наизусть, могут запутаться. Это была одна из первых попыток заставить компьютер имитировать творческую деятельность, и она выглядела наивно, но нейросети буквально каждый день становятся «умнее». Сможет ли когда-нибудь нейросеть, обученная на произведениях Пушкина, создать новую «энциклопедию русской жизни» — «Евгения Онегина 2.0»? Станет ли творчество машин вневременной классикой?

Рэй Курцвейл, известный футуролог и технический директор Google, в своем прогнозе на ближайшие 80 лет говорит о том, что к 2045 году земля превратится в один гигантский компьютер. Эти прогнозы вселяют как надежду, так и страхи. «Сноб» пригласил экспертов, которые рассказали, по каким сценариям может развиваться общество в эпоху господствующего искусственного интеллекта.

Участники дискуссии:

Лилия Земнухова, социолог, научный сотрудник Социологического института РАН и Центра исследований науки и технологий Европейского университета в Санкт-Петербурге;

Павел Лукша, профессор практики Московской школы управления СКОЛКОВО, основатель инициативы Global Education Futures, соавтор проекта «Атлас новых профессий»;

Артур Хачуян, генеральный директор SocialDataHub, сервиса социальной медиааналитики и сбора открытых данных;

Павел Макеев, программный директор проекта «Сноб».

Перед началом дискуссии «Сноб» провел небольшой опрос — слушатели участвовали в нем с помощью системы электронного голосования.

На вопрос «Сможет ли робот испытывать чувства?» 47% опрошенных ответили положительно, 53% — отрицательно.

В том, что робот может создать оригинальное произведение искусства, уверены 77% гостей, а 23% не верят в это.

Наконец, ответы на вопрос «Сможет ли робот заменить человека на работе в обозримом будущем?» распределились так: 85% — да, 15% — нет.

Мы решили задать гостям те же вопросы и после окончания дискуссии, чтобы выяснить, повлияют ли на их мнение презентации наших экспертов.

Когда нас заменят роботы

Павел Лукша: В 2017 году в Китае произошел скандал: некий поэт Сяо Се выпустил 4 книги стихов, а потом оказалось, что их «написал» искусственный интеллект.

Артур Хачуян: В современном искусстве множество примеров творчества роботов и нейросетей. Но может ли произведение считаться оригинальным, если нейросеть обучена на выборке из литературы определенного автора? Многие считают, что нет. С другой стороны, современные писатели тоже выросли на классике.

Павел Макеев: В Google стремительно набирает популярность запрос «В каких профессиях роботы заменят людей». Притом, когда ВЦИОМ опросил 2300 человек в России, волнует ли их тема роботизации, выяснилось, что 73% опрошенных совершенно не волнует, 18% думали об этом чаще одного раза, 7% участников опроса однажды посещала эта мысль.

Лилия Земнухова: В Германии, Великобритании и Финляндии совсем другое распределение ответов в подобном опросе. Там, где активно идет роботизация судебной системы или медицины, гораздо больше людей, которые не просто об этом задумываются, но и представляют, заменят ли их роботы на рабочем месте в ближайшее время.

Павел Лукша: Мне этот опрос напоминает ситуацию с Брекзитом: когда в Великобритании проводили опрос «Хотите ли вы, чтобы наша страна вышла из Евросоюза», многие решили попуглить, что такое Евросоюз.

Лилия Земнухова: Как сказал писатель-фантаст Уильям Гибсон, будущее уже наступило, но оно очень неравномерно распределено. Я слежу за тем, как технологическое развитие влияет на человечество и как общество контекстуализирует развитие технологий. За всеми новшествами стоит представление разработчика о том, как внедренная им технология будет развиваться в обществе. В ряде институций вроде ЦЕРН существуют комиссии по социально-культурным и этическим вопросам, и они сопровождают проекты, которые могут в дальнейшем поменять ценности общества, его структуру и этические установки. Исследователи Центра STS, в котором я работаю, стараются задавать больше вопросов и делать критические замечания, которые касаются вышеперечисленных аспектов общественной жизни. Нас интересует дискурс, который складывается вокруг внедрения искусственного интеллекта. Один из каналов распространения информации о том, каким может быть технологическое будущее и что может произойти с обществом, когда оно наступит, — это, как ни странно, научная фантастика. Когда исследователи при оценке той или иной ситуации понимают, что ее описывал давным-давно писатель-фантаст, они не сильно удивляются — скорее, удивление вызывает тот факт, что людям удалось реализовать технологический проект, который эту ситуацию создал.

Наше восприятие меняется в силу того, что мы начали осознавать технологии неотделимыми от нас. Человек — это в том числе и его репрезентация в социальных сетях. Человек «собирает» образ своего собеседника и из той информации, которую тот публикует о себе в интернете.

Рэй Курцвейл предположил, что к 2045 году появятся наноботы или нанороботы, которые будут создавать иллюзию присутствия человека там, где его нет. Они будут делать какие-то механические вещи за нас, а также воспроизводить нашу интеллектуальную деятельность, а мы будем где-то заниматься чем-то другим — и мне интересно, чем же мы будем заниматься. Интересно также, будем ли мы помнить о том, что общаемся с наноботами вместо живого собеседника, или наше понимание того, что такое человек, изменится? Один из разработчиков ИИ сказал, что мы перейдем точку невозврата в развитии цифрового интеллекта, когда роботы не просто начнут общаться между собой, но и самостоятельно приходить к выводу о том, что у кого-то из них получается не так.

Павел Макеев: Какой самый жуткий сценарий из сериала «Черное зеркало» может, по вашему мнению, воплотиться в жизнь?

Лилия Земнухова: Проще спросить, какой из этих сценариев не отражает реальность — в этом сериале почти все серии имеют отношение к сегодняшней жизни. На мой взгляд, самые страшные сценарии — те, в которых говорится не о том, как технологии нас поработят, а о том, как будут раскрываться человеческие пороки в мире новых технологий. Одним словом, больше всего пугают серии, в которых нам дают понять, какими будем мы сами, и поднимаются вопросы этики.

Павел Макеев: Павел Лукша, соавтор проекта «Атлас новых профессий», наверняка сможет рассказать, в каких областях нас точно потеснят роботы.

Павел Лукша: У людей творческих профессий, определенно, есть шанс. Автоматизацию двигают два фактора: экономическая эффективность (читай: жадность) и лень. Где-то между ними и находится автоматизация: в области, которую не жалко автоматизировать и в которой лень работать руками. Будущее наступает не вдруг — оно определяется социальными, демографическими и другими тенденциями. Вопрос о том, в каких профессиях людей заменят роботы, актуальный — кто-то наверняка видел презентацию робота-секретаря от Google, который записывал клиента на стрижку по телефону, специально делал паузы после реплик собеседника и говорил «угу». Но вопрос этот пока не очень острый.

Что станет с этикой в новом цифровом мире?

Павел Лукша: К прогнозу Курцвейла о том, что Земля превратится в цифровую машину, уже можно начинать прислушиваться, потому что с развитием нейросетей компьютерные технологии стали прогрессировать быстрее, чем ожидалось. Возникает вопрос о том, как будут вести себя роботы, если мы дадим им автономность и тела. Интересно также, какой станет психика человека, живущего в цифровой реальности. Для меня самый жуткий сюжет «Черного зеркала» — о том, как люди сидят в боксах и вынуждены постоянно смотреть шоу на экране, и когда один из них пытается устроить бунт и убить себя, это тоже превращают в коммерческий продукт — становится ясно, что из цифровой тюрьмы не уйти. Сложно предсказать, какие аффекты мы будем наблюдать у себя, когда сможем применить новые цифровые технологии.

До начала XX века люди радикально не отличались от других видов. В середине прошлого века мы вступили в эпоху антропоцена — уровень человеческой активности начал оказывать необратимое воздействие на Землю. Кроме того, мы первый биологический вид, представители которого смогли установить связь друг с другом в масштабах всей планеты. Это открывает возможность для того, чтобы воочию увидеть эффект «планетарного мозга», о котором много говорят. Также мы перешли в режим самоуправляемой революции с появлением технологий вроде CRISPR (технология направленного редактирования генов. — Прим. ред.), которая позволяет нам менять геном у сформировавшихся существ. Наконец, зачатки автономности техносферы, которые мы наблюдаем, дают понять, что зарождается нечто, чего планета доселе не знала. Это даже не жизнь в классическом ее понимании, а что-то совсем другое.

Около 100 лет назад человечество с вероятностью 5% могло повлиять на свое исчезновение, но за XX век мы открыли для себя множество новых возможностей для этого, и за текущий век их станет еще больше — теперь вероятность самоистребления составляет 95%. С угрозой ядерной войны мы худо-бедно справились с помощью коммуникации, но что из себя может представлять нанотехнологическое и биологическое оружие, пока даже нельзя предположить. Для создания биологического оружия не нужна сверхдорогая лаборатория, поэтому группа исследователей, которая вдруг решит начать священную войну, будет иметь все возможности по созданию технологического решения для этой войны. Ограничения технологического развития мы себе задаем сами, а значит, риск того, что мы сами себя угробим и утянем за собой всю биосферу, максимальный.

Но человечество не может остановиться в своем развитии и тем более не может начать упрощаться и уходить обратно в лес. Поэтому наша задача — научиться справляться с растущей сложностью и волатильностью глобального общества и «оседлать» прогресс, который начинает потихоньку опережать нашу мысль.

Как же нам научиться жить с растущей сложностью технологий? Есть два решения. Первое — проблему растущей сложности будет решать искусственный интеллект, потому что мы сами не до конца понимаем окружающие нас технологии. Некая машина будет брать эту сложность на себя и управлять ею. Обратная сторона этого процесса — вероятно, машина однажды перестанет понимать, зачем ей мы. Второе решение — необходимо развивать нашу, человеческую, способность к плотному сотрудничеству на новом уровне, а именно в масштабе всей планеты. Таким образом, мы будем буквально коллективным мозгом постигать новую сложность технологий. Причем второй сценарий не утопический, а оптимистично-реалистический, и у нас есть для этого ресурсы.

Выбор баланса наших отношений с машиной — меньший из выборов, а больший — это выбор наших собственных путей жизни. Человечество решало задачу перехода к новому качеству жизни несколько раз за свою историю — всякий раз придумывался не только новый образ жизни, но и новая этика и способ коллективно мыслить и действовать.

Артур Хачуян: Я думаю, искусственный интеллект не решит истребить человечество, и вот почему. Наше сознание формируется на основе собственного опыта. Задача человека, создавшего ИИ, — его как-то социализировать. Если ИИ зайдет в интернет и изучит историю человечества, вряд ли он решит его уничтожать. Это только в голливудских фильмах главный злодей мечтает уничтожить человечество — но кем он будет править, как будет жить без армии рабов? Искусственный интеллект обвиняют в расизме, но он просто обучен определенной информации: например, ИИ, занимающийся подбором персонала, выберет белую женщину 35 лет потому, что она для живых эйчаров — идеальный кандидат, и программа это знание усвоила. История с расистскими высказываниями чат-бота просто объясняется тем, что в переписке большинства подростков присутствует язык ненависти. Это не значит, что подростки целиком и полностью такие, но бот, обученный на их риторике, выдает подобные высказывания «всерьез».

Как изменится «Большой брат» в будущем?

Павел Лукша: Угроза того, что роботы решат истребить человечество, минимальна. Меня больше заботит то, что нами, людьми, довольно просто манипулировать, и мы сами не понимаем, насколько активно нами манипулируют. Когда-то весь мир разделится на тех, кто создает различные электронные платформы, и тех, кто ими пользуется. Поведение человека хорошо изучено, и можно смодерировать его с помощью кодовых слов, звуков и так далее. Я думаю о становлении такого общества, по сравнению с которым «1984» покажется милым вегетарианским вариантом. Китай уже начал эксперимент по внедрению социального рейтинга, в рамках которого собираются данные о поведении человека в соцсетях и онлайн-играх — на основании этих данных человеку дают больше или меньше возможностей для личностного роста и улучшения качества жизни.

Артур Хачуян: Раз уж мы постоянно упоминаем «Черное зеркало», то скажу, что одна из моих любимых серий как раз про то, как люди стали присваивать друг другу социальный рейтинг. Я занимаюсь сбором открытых данных в соцсетях. Вспомните ответ на свой секретный вопрос, который вы придумали для открытия счета в банке. А теперь подумайте, можно ли получить ответ на этот вопрос, если почитать ваши соцсети — особенно если нужно узнать девичью фамилию матери или кличку домашнего животного.

Владельцы многих домашних животных заводят им аккаунты в инстаграме. Facebook и VK сейчас сделали интегральные ленты, которые позволяют показать вам еще больше рекламного контента, и связи среднего россиянина в социальных сетях выглядят как тысячи звеньев между ним, его друзьями и друзьями друзей. Эти тысячи человек видят ваш контент и могут с ним и с вами как-то взаимодействовать, например, распространить его. На основе открытых данных можно понять интересы человека, его мобильность, физические данные. Самый занятный запрос — лайки, которые пользователи ставят эротическому контенту. Эти параметры интересуют руководство банков, поскольку, если взрослый семейный мужчина лайкает молодых девушек, это значит, что он с вероятностью 85% заинтересуется кредитной картой.

Акбарджон Джалилов, который устроил теракт в петербургском метро, удалил в 2010 году аккаунт и наплодил фейков. Но после этого он продолжил общаться с теми же людьми и потреблять тот же контент. Так он и способствовал своей деанонимизации, несмотря на то, что он тщательно скрывался. Связь между людьми можно вычислить по одному лайку. Но я рассказываю о вещах, которые разные компании успешно делают уже давно. Сейчас же по фотографиям человека из соцсетей пытаются воссоздать его образ, а по его «сториз» в инстаграме — голос. В ближайшие 10 лет информации о каждом из нас в открытых источниках будет настолько много, что возможно будет создать некий слепок с нашего сознания и модель человека, который будет способен поддерживать беседу «как живой». Моих родителей пока идея оцифровать и «оживить» мертвого родственника приводит в ужас, а я не вижу в этом ничего странного.

После дискуссии «Сноб» снова провел опрос, и ответы гостей распределились так:

«Сможет ли робот испытывать чувства?» — 30% да и 70% нет (вместо 47% да и 53% нет);

«Может ли робот создать оригинальное произведение искусства?» — 74% да и 26% нет (вместо 78% да, а 22% нет);

«Сможет ли робот заменить человека на работе в обозримом будущем?» — 61% да и 39% нет (вместо 85% да и 15% нет).

Автор: Юлия Гусарова