«Это отличный рецепт, чтобы получить ад на Земле». Киберфилософы о своей работе
Секс с роботами, война с роботами и дружба с роботами — уже не предмет для Sci-Fi-литературы и кино, а наша реальность. 7 декабря 2016 года компания Amazon опубликовала видеоролик, демонстрирующий, как первый в истории беспилотник-курьер доставил британскому жителю в сельской местности неподалеку от Кембриджа пакет попкорна и телевизионную приставку. В сентябре 2016 года компания Uber запустила первые беспилотные такси в тестовом режиме, а уже к 2020 году Google и Toyota планируют выпустить беспилотные машины на рынок. В Японии в 2015 году поступил продажу робот Pepper, который с помощью двух вмонтированных в голову камер и сенсоров расстояния распознавает эмоции находящегося рядом человека. Власти Японии планируют подселять роботов Pepper в дома престарелых, чтобы те скрашивали дни старикам. В России создана лаборатория боевой робототехники и, по словам министра обороны Сергея Шойгу, первые армейские роботы встанут в строй не позже 2017 года. В США создатели элитных секс-роботов RealDoll уже экспериментируют с внедрением искусственного интеллекта, чтобы владелец куклы мог не только помастурбировать и переспать с ней, но и поговорить.
Новые виды роботов вызывают массу этических вопросов. Имеет ли робот право совершать суицид, когда ему осточертеет эта планета? Может ли робот отказаться от секса с человеком, если не в настроении? Как должен поступить робот-автомобиль, если во время движения на дорогу выскочил ребенок — сворачивать в кювет с риском для жизни пассажиров или давить ребенка? Может ли робот бездумно убивать человека на войне или это недостойный поступок?
Все эти вопросы повлекли за собой появление новой ветви философии — этики роботов. Ведущие университеты США и стран Евросоюза нанимают на работу философов нового толка, чтобы они составляли своды этических правил для новых и новых роботов. Чтобы узнать, как проходят будни работающих с этикой роботов философов и чем наполнены их рабочие часы, «Сноб» подготовил цикл бесед с десятью ведущими киберфилософами. В первом выпуске эксперты рассказывают о том, как пришли к этой профессии и какое место она занимает в их жизни.
Джон Саллинс III (John Sullins III), PHD, профессор философского факультета университета Сонома (Калифорния, США), специализируется на философских вопросах, касающихся искусственного интеллекта, инженерной и компьютерной этики:
Больше всего меня впечатляет в киберфилософии то, что она позволяет при помощи роботов и их искусственного интеллекта отрабатывать философские догадки по поводу того, как устроены наши собственные мозги. Люблю на досуге представить себе 2066 год, тем более что меня здесь уже не будет и никто не сможет меня обвинить в какой-нибудь чудовищной ошибке, которую я мог при жизни сделать. У меня был ментор Ради Ракер, он был математиком и писал Sci-Fi-книжки, в которых описывал мир, населенный клевыми роботами, — эти роботы не будут нас уничтожать, а просто сделают нашу жизнь чуть интереснее. И мне кажется, я работаю над тем, чтобы мир именно таким и стал. Я консультирую инженеров и советую им, как построить машины, наиболее уважительно относящиеся к человеческой этике и морали.
Александр Мишура, преподаватель школы философии факультета гуманитарных наук НИУ ВШЭ:
Философия, на мой взгляд, максимально прикладная дисциплина, которая намного лучше, чем любая специальная наука, позволяет человеку осмысливать свою жизнь и управлять ею. Я мечтаю, что однажды мой ребенок построит робота, который сможет проверять эссе студентов по философии. А лучшее решение, какое я принял в своей жизни, — жениться: никакие роботы не заменят настоящую жену.
Чарльз Эсс (Charles Ess), PHD, директор центра по исследованию медиаинноваций, Университет Осло (Осло, Норвегия):
Я интересуюсь роботами уже 50 лет. Мне в них нравится то, что они позволяют больше узнать о себе, своем внутреннем мире. Я понял, что буду специализироваться на роботах, когда увидел в 1966-м одну из первых серий сериала Star Trek. Там есть чудесный эпизод, когда человека вдруг превращают в андроида и отправляют в ссылку. А через пять лет его невеста приплывает на корабле, чтобы спасти его. Она сначала не понимает, что ее возлюбленный стал андроидом, но потом осознает это. Я увидел эту серию в 15 лет, и она мне снесла башку. И я такой: «Вау, вот этим я и буду заниматься». Я начал преподавать философию в 1980 году, и по мере того, как развивались компьютеры, я все больше занимался философскими вопросами, касающимися роботов. Я женат 39 лет, и жена с пониманием относится к тому, что я изучаю секс-роботов. 10 лет назад я вообще специализировался на цифровой порнографии, а там совсем темный лес, так что секс-роботы — это еще цветочки.
Джейсон Миллар (Jason Millar), профессор Карлтонского университета (Оттава, Канада), сотрудничает со Стэнфордским университетом в исследовательском проекте «Этическое программирование беспилотных машин»:
Когда я думаю о нашем будущем, мое воображение переключается с утопии на антиутопию и обратно. Беспилотные машины и робот-уборщица, которая наконец сможет сделать мой дом чистым, — вот будущее. А, и конечно, робот-шеф. Думаю, если все эти мечты осуществятся, мне еще понадобится робот — спортивный тренер, который поможет мне быть в форме. Может, я просто очень ленивый человек? Потому что, если подумать, очень много роботов — не такая уж хорошая идея. Но я, честное слово, не люблю убираться.
Марк Кокельберг (Marc Coeckelbergh), профессор философии, Венский университет (Вена, Австрия):
Провожу много времени «в роботах», ведь я, как и все, летаю в самолетах, управляемых автопилотом.
Кейтлин Ричардсон (Kathleen Richardson), старший научный сотрудник, департамент этики роботов, Университет Де Монтфорт (Лестер, Великобритания):
Я занимаюсь этикой роботов 15 лет. Все началось в Кембридже в 2000 году. По образованию я антрополог, и меня интересует антропоморфизм — одушевление неодушевленных предметов. В начале нулевых собиралась съездить в Амазонию, пообщаться с представителями сохранившихся там первобытных общин. И пока я планировала эту поездку, я сходила в кино на фильм «Искусственный разум». Там про пару, у которой заболел сын, и они в печали. И вот появляется корпорация, которая создает роботов для бездетных пар. И робот приходит в семью, и мама к нему сильно прикипает. И к тому моменту, когда возвращается из больницы ее собственный ребенок, этот робот уже представляет для него настоящую угрозу. Суть фильма сводится к вопросу: что будет, если сконструировать робота, способного вызывать у людей настоящие чувства. И пока я смотрела этот фильм, я поняла: мне совершенно не обязательно ехать в Амазонию. Если я хочу понять, что такое быть человеком, мне хватит и робота. Но знаете, что я поняла за 15 лет, которые работаю с роботами? Они не работают! Роботы — это просто представление, театр, материал для фикшна.
Питер Асаро (Peter Asaro), профессор, департамент философии науки, технологии и медиа в Новой Школе (Нью-Йорк, США):
Я изучаю социальные, этические и правовые последствия от появления в нашей жизни автономных технологий. Это включает в себя вопросы, касающиеся ответственности, наказания, прайваси и наблюдения в той мере, в которой они относятся к роботам, «умным» зданиям, беспилотными машинам, дронам и искусственному интеллекту. Я разрабатываю технологии в сфере виртуальной реальности, визуализации Big Data, искусственного интеллекта и так далее.
Ноэль Шарки (Noel Sharkey), главный судья на передаче телеканала ВВС «Битвы роботов», директор Международного комитета контроля за боевыми роботами (Великобритания):
Комитет контроля за боевыми роботами был образован в 2009 году, чтобы инициировать обсуждение боевых роботов. И говорим мы там не о дронах, потому что дроны хоть как-то контролируются человеком. Боевые роботы отличаются от дронов тем, что существуют совершенно автономно — выбирают себе человеческую мишень и уничтожают ее без всякого контроля со стороны человека. Основной вопрос, который мы обсуждаем, — это то, как новые технологии взаимодействуют с международным гуманитарным правом, в котором прописаны правила ведения войны. У нас нет совершенно никакой уверенности в том, что независимые боевые роботы собираются эти правила соблюдать.
Селмер Бринсжор (Selmer Bringsjord), глава департамента когнитивных исследований, Политический институт Ренсселера (Нью-Йорк, США):
Мы, люди, как вид, сейчас находимся на очень стремной стадии развития. И когда я говорю «стремный» — это еще мягкое слово. Создавать роботов и наделять их человеческими полномочиями — отличный рецепт, чтобы получить бурю из ада на земле. Предотвратить такое будущее, ну или хотя бы его частично обезопасить — вот что меня вдохновляет. Вот зачем я делаю то, что делаю.