Top.Mail.Ru

1600.jpg

Дмитрий Волков Такие же, как мы.

Почему люди боятся человекоподобных роботов

Редакционный материал

Согласно гипотезе японского ученого Масахиро Мори «эффект “зловещей долины”», люди сначала симпатизируют человекоподобным роботам, а потом начинают бояться их. Об основаниях для этого страха размышляет философ Дмитрий Волков

19 Апрель 2019 15:25

В Калифорнии, в кампусе университета Беркли, я столкнулся со странным аппаратом. Иду и вижу, что по улице катится ящик на колесах, небольшая самоходная коробочка, похожая на переносной холодильник. Она едет, изредка притормаживая и пропуская пешеходов, останавливается на светофоре перед проезжей частью. Что же это такое? Я подхожу и встаю прямо перед ящиком. Самоходик тормозит, а потом трогается, но нерешительно, пытается меня объехать. Покрутившись немного на месте и обнаружив свободную траекторию, он пускается во всю прыть через дорогу. Нет уж, так я тебя не отпущу!

Я настигаю коробочку, сделав несколько больших шагов, и встаю прямо перед ней. Теперь я полностью блокирую движение вперед. Опускаюсь вниз на корточки, чтобы ее рассмотреть. А она как будто начинает рассматривать меня. На экране загораются два сердечка и палочка под ними. Сердечки мигают — коробочка как бы улыбается мне. А потом вдруг начинается открываться крышка — коробочка показывает мне, что внутри у нее ничего нет и мне нет смысла ее больше задерживать. «Это автоматическая доставка пиццы. Она возвращается на базу», — слышу голос сверху. Это поясняет молодой человек, заметивший мое любопытство. Автоматическая самодвижущаяся пицца. Ничего себе! Хотя, если подумать, ничего удивительного. В Калифорнии просто много всяких таких штук: дроны, охраняющие участки, самоуправляемые автомобили. Здесь появляются новые технологии и часто происходят первые встречи этих технологий с людьми. Именно поэтому изобретатели, придумывающие их, озабочены первым впечатлением, которое произведет их детище. Ведь «встречают по одежке» не только людей.

Создатели самоходной пиццы, судя по моей реакции, хорошо справились с задачей. После первого знакомства я испытываю симпатию к этой штуке и даже смущен, что попытался загнать ее в угол. Впрочем, не удивительно. Ведь она подтверждает принцип, обнаруженный японским робототехником Масахиро Мори: люди симпатизируют роботам, которые похожи на людей. Вот так моя коробочка: улыбается мне, моргает глазками-сердечками и показывает, что пиццу уже кому-то доставила. Она ведет себя почти как человек. Но здесь важное слово — почти. Одним из открытий Мори было то, что людям нравятся механизмы, похожие на них, но только до определенной степени сходства. Стоит сходству достигнуть какого-то критического уровня, и люди перестают испытывать симпатию и, напротив, начинают чувствовать страх или отвращение.

Если гипотезу Масахиро Мори отразить на графике, получится восходящая линия с впадиной посередине. По мере того как существо или «устройство» приближается к человекоподобному, симпатия к нему возрастает. Но в какой-то момент подобие становится страшным. Человекоподобные куклы или роботы, как, например, и зомби, вызывают в людях страх и отвращение. Это существа, населяющие впадину, «зловещую долину». Так назвал ее сам Мори. Странный феномен, не правда ли? Она выглядит как какая-то аномалия или баг в системе. В чем причина этого неожиданного явления? И значит ли это, что гуманоидные роботы, если появятся в нашей повседневной жизни, будут вызывать чувство страха и недоверия? Эти вопросы сами по себе очень интересны, но я не буду пытаться на них ответить. Для этого есть психологи, которые изучают особенности человеческой психики.

Возможно, дело в зеркальных нейронах, которые отвечают за эмпатию. Или в страхе смерти и подобии гуманоидов ожившим мертвецам. Меня, как философа, интересует другое: а обоснован ли страх по отношению к гуманоидным роботам? Является ли это рациональной реакцией? Вот это — философский вопрос. Но, размышляя о нем, я не нахожу пока достаточных оснований для страха.

Страх был бы обоснован, если бы создание подобных существ противоречило какому-то моральному закону или предписанию. Религиозным догмам, например. Приходит в голову образ доктора Фауста, продавшего душу дьяволу и выращивающего человекоподобного гомункула у себя в колбе. В таком проекте можно было бы найти что-то богоборческое. Что-то вроде вкушения запретного плода с Дерева познания. Но для этого нужно разделять множество религиозных догматов. А я, честно говоря, не нахожу их рациональными. И просто не вижу, чем создание человекоподобных существ вреднее органического воспроизводства людей. Тогда что? Может, в создании человекоподобных существ кроется другая опасность? Может, такие существа способны нас обмануть?

Представьте, что в вашу дверь стучится маленькая девочка, но она робот. Она ведет себя почти совсем как человек. Просит о помощи: «Понимаете, — говорит она, — я совсем одна. Пожалуйста, пустите, мне холодно и страшно». Вы, сопереживая ей, поддаетесь и, конечно, пускаете. И вот она поселяется у вас дома. Ест, пьет вместе с вами, ложится спать. (Да, робот, который способен есть и пить.) Вы рады, что сделали добро, или чувствуете потенциальную опасность? Не правда ли, это похоже на начало фильма ужасов? А почему? Может, потому, что от этого существа ожидать можно все что угодно? Воспользовавшись доверием, она может совершить любое злодейство. Не этот ли сценарий мы интуитивно проигрываем, когда смотрим на гуманоидных существ? Не чувствуем ли мы себя особенно уязвимыми перед ними? Может быть, в этой полной непрозрачности психики этого существа и кроется опасность?

Вполне возможно, что психика гуманоидных роботов непрозрачна для нас. Но и психика других людей для нас непрозрачна в той же мере. Среди людей достаточно искусных обманщиков и тех, кто не разделяет фундаментальных человеческих ценностей. Определение их подлинных намерений не менее сложно, чем определение намерений человекоподобных роботов. К примеру, люди-психопаты составляют треть тюремных заключенных. Психопатия — психологическое расстройство, характеризуется лживостью, бессердечием, снижением способности к сопереживанию вплоть до его полного отсутствия. От таких людей стоит ожидать чего угодно. И вероятность того, что робот будет менее человечным, чем люди-психопаты, ничем не обусловлена. Значит, не доверять таким роботам больше, чем людям, оснований нет.

А если оснований нет, я предлагаю избавляться от этого страха. Кстати, для этого нет необходимости принимать у себя дома гуманоидного робота. Возможно, первым шагом может стать спектакль в Новом пространстве Театра наций, который называется «Зловещая долина». Главным героем-актером в этом спектакле является гуманоидный робот — двойник автора сценария. Наблюдая за этим существом, вы можете спуститься в «зловещую долину», а потом, возможно, и выбраться из нее. На спектакль я уже сходил.

Лого Телеграма Читайте лучшие тексты проекта «Сноб» в Телеграме Мы отобрали для вас самое интересное. Присоединяйтесь!
0 комментариев

Хотите это обсудить?

Войти Зарегистрироваться

Читайте также

Познакомимся с главными действующими лицами экономики будущего
Президент группы компаний Cognitive technologies Ольга Ускова — о полезных санкциях, предпринимательском пессимизме и будущем людей и роботов

Новости партнеров

Специальный корреспондент «Сноба» Полина Еременко обсудила с девятью ведущими международными киберфилософами наше будущее

«Мнения» на «Снобе»

Ежемесячно «Сноб» читают три миллиона человек. Мы убеждены: многие из наших читателей обладают уникальными знаниями и готовы поделиться необычным взглядом на мир. Поэтому мы открыли раздел «Мнения». В нем мы публикуем не только материалы наших постоянных авторов и участников проекта, но и тексты наших читателей.
Присылайте их на opinion@snob.ru.