Почему мы должны бояться искусственного интеллекта?

Развитие искусственного интеллекта чревато появлением нового риска для человечества — страшнее атомной войны и экологической катастрофы.

Об этом всерьез говорили философ Ник Бостром, физик-теоретик Стивен Хокинг и магнаты из Силиконовой долины Илон Маск и Билл Гейтс. Впрочем, они пока не убедили большинство. Ведь и среди оптимистов — не менее влиятельные люди: Марк Цукерберг, Ларри Пейдж или футуролог Рэймонд Курцвейл. Они, напротив, в искусственном интеллекте видят решение всех проблем человечества. Мы призываем демона-аннигилятора или ангела-хранителя? Как это понять?

Искусственный интеллект может привести к появлению сверхразума — интеллекта, превосходящего когнитивные возможности человека во всех ключевых областях. Именно он кажется одним главной угрозой, а другим — главной надеждой. И он может появиться быстрее, чем мы ожидаем, так как темпы технологического прогресса ускоряются в геометрической прогрессии.

Несколько миллионов лет наши полуголодные предки охотились в африканских лесах, они с трудом выживали. Двести тысяч лет назад появился Homo Sapiens. Еще через сто тысяч лет, в эпоху верхнего палеолита, у Homo Sapiens появился язык, который, в свою очередь, открыл возможности для развития мышления и передачи опыта. Примерно десять тысяч лет назад произошла неолитическая революция, переход от экономики охотников и собирателей к земледелию. Население и его плотность увеличились на порядки. Двести лет назад произошла индустриальная революция, в ее результате развились крупные города, производство выросло на порядки. Чуть больше 50 лет назад появился компьютер — машина, способная совершать математические и логические операции и заменять человека в отдельных областях, которые считались исключительно интеллектуальными. Вы замечаете, как сокращается временной интервал между радикальными изменениями? Так вот, если смотреть назад на историю технического прогресса из нашего времени, то это бесконечная долина, а впереди перед нами — отвесная вертикаль. Мы стоим на «экспоненциальной кривой». Следующий рывок может произойти скоро, и, скорее всего, он будет связан с искусственным интеллектом.

Искусственный интеллект уже показывает существенные успехи. Некоторые преимущества машин над их создателями были очевидны сразу: у машин потенциально больше память и на порядки быстрее скорость вычислений. Машина может обнаружить закономерности в последовательностях символов. Это показал Алан Тьюринг, когда с помощью машины разгадал шифр «Энигмы», с которым не справился ни один человек.

Компьютер обыгрывает людей в телевикторинах на любознательность и смекалку, пишет стихи, которые невозможно отличить от стихов, написанных людьми, водит машины лучше людей

Но компьютер может обрабатывать не только цифры. Он может демонстрировать интеллектуальное поведение. Например, он может обыграть человека в интеллектуальные игры. Компьютер обыграл человека сначала в шашки в 1956 г., потом в шахматы в 1997 г., и, наконец, в игру Го в 2014 г. Еще несколько десятилетий назад победа в этих играх казалась признаком абсолютного интеллектуального превосходства. Компьютер обыгрывает людей в телевикторинах на любознательность и смекалку, пишет стихи, которые невозможно отличить от стихов, написанных людьми, водит машины лучше людей, распознает речь и изображения, распознает и классифицирует болезни. В связи с этими достижениями можно говорить о том, что через несколько десятилетий может появиться сверхразум. Чем это чревато?

Дело в том, что вне зависимости от того, какие изначальные цели будут поставлены перед сверхразумом, у него в любом случае появится промежуточная цель — обеспечение ресурсами для реализации этой цели. И на пути к реализации промежуточной цели сверхразум может воспринять человечество как препятствие. В худшем сценарии сверхразум станет нашим последним изобретением. Человечество на эволюционной лестнице станет загрузочной программой для нового типа разума.

В связи с этим обычно возникают два любопытных вопроса: а действительно ли развитие искусственного интеллекта в узких областях, то развитие, которое мы наблюдаем сейчас, может привести к появлению сверхразума? И действительно ли машины могут мыслить, ведь они только оперируют нулями и единицами.

Я считаю, что успехи машин в отдельных областях являются свидетельством возможности прогресса в создании общего интеллекта у машины. При этом уже сейчас есть некоторые подвижки и в разработке общего интеллекта. Эти разработки ведутся в рамках проектов DeepMind, The Human Brain Project и «Открытый ИИ». Например, компания DeepMind, принадлежащая Google, разработала программу AlphaZero, которая способна учиться играть не в одну конкретную игру, а почти во все, причем сама… Ее поведение в играх очень неожиданно и непредсказуемо для экспертов. Как говорят некоторые мастера, игравшие с ней, «она ведет себя как инопланетянин, она может неожиданно подставить ценную фигуру для того, чтобы приобрести позиционное преимущество».

А что касается принципиальной возможности машин мыслить, я тоже не вижу здесь особенных проблем. Машины способны обыгрывать нас в интеллектуальных задачах. Чем это не мышление? Конечно, можно придираться к тому, как они это делают, с помощью каких механизмов. Но с таким же успехом можно говорить, что самолеты не летают, так как они не машут крыльями, как птицы. Интеллект — это, прежде всего, интеллектуальное поведение, а не особенности внутреннего устройства. И в этом машины скоро могут нас обойти.