«‎Мир перестал быть человекомерным». Татьяна Черниговская о проблемах развития искусственного интеллекта

Почему люди до сих пор не создали супер-ИИ

Человеческий мозг представляет собой сложнейшую нейронную сеть. Вот лишь некоторые цифры: в мозге примерно 100 миллиардов нейронов, у каждого из них может быть от 50 до 100 тысяч соединений. А если все нейроны мозга связать в одну нить, то ее длина будет равна семи полетам на Луну и обратно. Речь идет об астрономических величинах, и все это помещается внутри черепной коробки. В голове каждого из нас находится целая вселенная. 

Проблема в том, что вселенные внутри человеческого мозга не укладываются в общую физическую картину мира. По словам физика Роджера Пенроуза, это означает, что современная биология, нейронаука и физика не могут объяснить, как на самом деле работает сознание. Эта проблема делит ученых на две группы. Одни пытаются все-таки «‎впихнуть» сложные когнитивные процессы в существующую картину мира, но пока у них плохо получается‎. Другие готовят человечество к парадигмальному скачку, который приведет к абсолютно новым теориям физики и изменит наше понимание действительности, но в таком случае мы должны будем признать, что сейчас представление науки о вселенной ложно — а к такому готовы далеко не все. 

Как только ученые обозначили проблему сознания, началась жестокая гонка за поиск ее решения. Ежедневно в мире выходит по 50 статей в каждой из областей нейронауки. На исследования мозга тратят миллиарды долларов. В этой гонке участвуют лучшие университеты, мозговые центры, представители бизнеса. Несмотря на все это, мне до сих пор приходится слышать от исследователей из «‎Сколково»‎ следующее: расскажите нам, как работает мозг, а мы воссоздадим его в силиконе. Но реальность намного более сурова, чем думают сколковские ученые. В ближайшие 100, а то и 200 лет мы вряд ли найдем ответ на их вопрос.  

В чем современный искусственный интеллект проигрывает человеку

Исследователи ИИ в основном исходят из того, что мозг работает исключительно алгоритмически — последовательно обрабатывает отдельные единицы информации. Программы ИИ уже проводят сложные вычислительные операции намного быстрее людей. Это машины, которые ничего не забывают, не устают, не влюбляются. Мы проигрываем им во всем, что связано со счетом. Но мозг — это не просто вычислительная машина больших мощностей, и наша цивилизация создана не только благодаря способности считать. 

Внутри человеческого мозга мы наблюдаем, по крайней мере, два феномена, которые двигают человечество вперед. Первый — интуиция. Именно она играет первостепенную роль в научных открытиях и изобретениях. Эйнштейн говорил, что интуиция — это священный дар, а разум — его покорный слуга. Второй феномен — воображение. Оно важнее знания, потому что, в отличие от знания, воображение не имеет границ. Интуиция и воображение могут вывести человека за пределы известной территории. Современный искусственный интеллект этого лишен. Суперкомпьютеры не совершили ни одного открытия — они попросту не умеют этого делать.     

Более того, человеку иногда даже полезно забыть о логике и полностью довериться иррациональному. Задумайтесь: зачем Эйнштейн и Шерлок Холмс играли на скрипке? Мой научный ответ: они сбивали алгоритмы и переводили мозг в другой режим работы, а потом шли опять исследовать и изобретать.

Почему к развитию искусственного интеллекта следует относиться с осторожностью

В 1997 году программа ‎Deep Blue‎ нанесла человечеству оскорбительный удар, выиграв в шахматы у Гарри Каспарова. Тогда все содрогнулись. Но программа была натаскана на одного игрока — на самого Каспарова. Она знала про него больше, чем он сам. Она знала каждый его ход с того момента, когда он в первый раз взялся за шахматную фигуру. Более того, у ‎Deep Blue‎ память, с которой невозможно конкурировать. Она не умеет нервничать и отвлекаться. Сам Каспаров, когда оправился от шока, сказал, что если бы он сделал пару ходов, которых никогда не делают чемпионы мира, то программа бы этого не выдержала, потому что она не готова к тому, что соперник может играть глупо.  

Но дальше — больше. Люди решили испытать компьютер более сложной игрой — го (логическая настольная игра, возникшая в Древнем Китае. — Прим. ред.). Но программа AlphaGo разбила чемпиона мира Ли Седоля в пух и прах. А через несколько лет компьютер обыграл человека даже в покер.

В 2017 году компания DeepMind объявила о создании программы AlphaZero. Это универсальный алгоритм, который без предварительной подготовки, без базы данных за 24 часа выучивается играть и в шахматы, и в го так, что его не может обыграть никакая другая программа и никакой человек. За эти 24 часа она играет со своим клоном миллион партий. 

Дело не в игре, а в том, что искусственный интеллект набирает силу. Пока еще он подчиняется человеку. Но мощность накапливается с такой скоростью, что это может выйти из-под контроля. И это не разговор на кухне. Подобные проблемы обсуждаются на высоком уровне, например, при президиуме РАН существует экспертный совет по методологии искусственного интеллекта. Так что тревога по поводу цифровых технологий имеет основания. 

Какие вопросы ставит перед человечеством развитие искусственного интеллекта

1. Какой физике подчиняется человеческий мозг — физике Ньютона, Эйнштейна, Бора? Некоторые утверждают, что всем. Но что это значит и как это можно использовать? 
2. Как предотвратить социальные проблемы, которые возникнут вместе с развитием цифровых технологий? Цифровая реальность уже отчасти выступает критерием отбора в социуме. Могут появиться страны, которые будут не допущены к цифровому миру из-за недостатка денег или отсутствия интеллектуальной среды. Это также может происходить внутри стран и вызывать социальные взрывы.
3. Как адаптировать этику и законодательство под новые реалии? Мир перестал быть человекомерным. Беспилотники уже давят людей. Кто несет за это ответственность — человек или машина? 
4. Может ли у искусственного интеллекта появиться собственное «я» и как мы это поймем? 

Пока мы точно знаем, что машина, которая принимает за нас решения, не осознает, что делает. Но научный прогресс идет к тому, что искусственный интеллект может стать личностью. Тогда развитие ИИ выйдет из-под контроля. 

Лекция Татьяны Черниговской прошла 15 февраля в Санкт-Петербурге в рамках конкурса «‎Учитель будущего». Организатором конкурса стала платформа «‎Россия — страна возможностей».‎ ‎

Подготовил Асхад Бзегежев