Опережая время: как советские математики работали над фундаментом для ИИ
В ноябре 1988 года советский «Буран» совершил два витка вокруг Земли и через 205 минут сел на Байконуре. На борту никого не было: «Буран» садился в автономном режиме на считаных килобайтах памяти — даже сейчас звучит фантастически!
Задолго до Кремниевой долины, с которой обычно ассоциируется ИИ, в СССР развивалась мощная школа вычислительной математики, моделирования и автоматического управления. С помощью ЭВМ ученые предсказывали поведение сложных систем, находили решения там, где эксперимент был слишком дорог, опасен или попросту невозможен, то есть фактически с нуля создали самостоятельную науку о моделировании сложных физических явлений.
В 1960‑х годах СССР наряду с США и Японией занимал лидирующие позиции в робототехнике. Советские специалисты разрабатывали системы управления для сложных промышленных и энергетических объектов, в том числе атомных станций. Компьютеры еще не были привычной частью повседневной жизни, но уже тогда в СССР создавали системы, которые решали сложные интеллектуальные задачи в условиях ограниченных вычислительных ресурсов. Так, в 1974 году советская программа «Каисса» выиграла первый чемпионат мира по компьютерным шахматам в Стокгольме, в котором участвовали 13 программ из восьми стран.
В СССР не сложилось отдельной области компьютерных наук, как на Западе. Вычислительная математика, программирование, теория алгоритмов и дискретная математика существовали, но часто были тесно привязаны к конкретным научным и инженерным задачам. Это имело последствия. Масштабные научно-технические задачи стимулировали поиск собственных методов и решений, но по мере изменения экономических и институциональных условий все чаще возникал соблазн воспользоваться уже готовыми зарубежными разработками. Иногда это было рационально, но вместе с отказом от самостоятельной работы терялись исследовательские школы, преемственность и способность создавать собственные направления.
Советская математика в лицах
Главной фигурой советской математики можно назвать Андрея Николаевича Колмогорова. Его влияние выходило далеко за пределы одной дисциплины. В 1933 году он опубликовал работу, которая придала теории вероятностей строгую аксиоматическую основу, в 1940‑е годы совершил прорыв в теории турбулентности, а позднее внес огромный вклад в теорию алгоритмов и оценку вычислительной сложности. Он занимался случайными процессами, теорией информации и многими другими направлениями. Редко кому удавалось настолько глубоко повлиять сразу на несколько областей знания.
В 1962 году советские математики Георгий Максимович Адельсон-Вельский и Евгений Михайлович Ландис разработали «АВЛ-дерево» — структуру данных, которая автоматически сохраняет баланс при добавлении и удалении элементов, обеспечивая быстрый поиск. Сегодня эту идею используют в программировании и базах данных, где важны высокая скорость и стабильная работа с изменяющимися показателями.
В 1965 году Алексей Григорьевич Ивахненко и Валентин Григорьевич Лапа опубликовали работающий алгоритм обучения многослойных нейронных сетей. Их метод группового учета аргументов позволял строить глубокие модели и обучать их на данных. Метод быстрого вычисления градиентов для таких сетей описал в 1974 году Александр Иванович Галушкин. Позднее методы обратного распространения ошибки станут одним из ключевых инструментов машинного обучения и основой индустрии, которую мы знаем сегодня.
Основу теории статистического машинного обучения заложили выдающиеся математики Владимир Наумович Вапник и Алексей Яковлевич Червоненкис. С начала 1960‑х годов в московском Институте проблем управления им. Трапезникова они разрабатывали метод обобщенного портрета для распознавания образов. В 1968 году опубликовали фундаментальную работу об условиях равномерной сходимости эмпирических частот к вероятностям. Из этих исследований выросли основы статистической теории обучения, а впоследствии — понятие VC-размерности, которое используется для оценки сложности моделей и их способности обобщать данные. В 1990 году Вапник эмигрировал в США. Там он участвовал в развитии теории, на основе которой сформировался метод опорных векторов, один из важнейших алгоритмов классического машинного обучения.
В 1960–1970‑х годах Юрий Иванович Журавлев и его ученики в Вычислительном центре АН СССР применяли методы классификации для поиска и прогнозирования редких типов потенциально золотоносных месторождений. Сегодня мы бы назвали это одной из разновидностей интеллектуального анализа данных.
Не стоит забывать и об организаторах науки. Например, без Мстислава Всеволодовича Келдыша не случилось бы ничего — ни в расчетах, ни в космосе, ни в «ядерке». Еще одна важная фигура — Гурий Иванович Марчук, о котором за пределами профессионального сообщества говорят значительно реже. Он внес существенный вклад в вычислительную математику, математическое моделирование и численные методы, занимался задачами математической физики и прогнозирования погоды. Он сделал многое для развития научных коллективов.
Самостоятельность научных школ, конкуренция и обмен знаниями
Фундаментальный вклад в развитие численных методов и вычислительной математики внес академик Николай Сергеевич Бахвалов: он дал строгое теоретическое обоснование многосеточного метода Радия Петровича Федоренко для решения дифференциальных уравнений. В 1970‑е метод «перепридумали» немцы: в первой статье сослались на Федоренко, а потом перестали. Приходится задумываться о том, сколько научных результатов известно под именами тех, у кого была возможность развивать и распространять их на международном уровне. Однако это не всегда была конкуренция в прямом смысле слова. Международный обмен результатами тогда был несопоставим с нынешним: ученые могли решать одни и те же задачи, почти ничего не зная о работе коллег. Так, Вера Николаевна Кублановская из Ленинградского отделения Математического института им. Стеклова АН СССР и Джон Фрэнсис независимо друг от друга разработали QR-алгоритм — один из фундаментальных методов вычисления собственных значений матриц. Кстати, именно в МИАН сейчас работает отдел математических основ ИИ.
При этом советская наука не была совсем изолированной. Гурий Иванович Марчук, возглавив Сибирское отделение АН СССР, начал приглашать в гости зарубежных ученых. Внутри системы, где многие направления оставались закрытыми, было понимание, что международные научные связи движут науку вперед.
Советская наука ориентировалась на практические потребности, но так было почти во всем мире. При этом фундаментальные результаты советских математиков выходили далеко за пределы первоначальных прикладных задач. Посмотрим, например, оптимальную транспортную задачу, с которой связаны работы Леонида Витальевича Канторовича, одного из создателей линейного программирования и лауреата Нобелевской премии по экономике. А в 1969 году Леонид Нисонович Васерштейн описал способ измерения расстояния между вероятностными распределениями. Сегодня метрика Васерштейна применяется в теории вероятностей, статистике и машинном обучении, в том числе при разработке и обучении генеративных моделей. Математическая идея, возникшая задолго до нынешнего бума ИИ, оказалась востребована в технологиях совершенно другой эпохи. Именно в этом, пожалуй, и состоит главное наследие советской вычислительной школы. Ее история — не перечень имен и не попытка доказать, что все важное придумали в СССР. Это история самостоятельной научной традиции, в которой сложные практические задачи становились источником фундаментальных идей.
Нагляднее всего масштаб советской математической школы проявился в начале 1990‑х годов, когда границы открылись и многие ученые начали активно взаимодействовать с зарубежными коллегами. Оказалось, что на Западе не знали их имен, но прекрасно знали их работы.
Научная среда вчера, сегодня, завтра
Сильная научная школа в СССР строилась не только на открытиях отдельных гениев, но и на способности создавать среду, в которой могут работать и развиваться другие. Научная степень порой влияла не только на профессиональные возможности, но и на повседневную жизнь человека вплоть до условий проживания.
После распада СССР эта среда оказалась частично разрушенной. Многие ученые уехали из страны или ушли из науки, коллективы распались, а молодежь перестала видеть в науке свое будущее.
Хотя многие исследовательские школы впоследствии пришлось создавать заново, некоторым научным группам, например команде Евгения Евгеньевича Тыртышникова, удалось сохраниться и продолжить работу. Преемственность, как мне кажется, реализовалась именно через фундаментальную подготовку. Ведущие университеты, такие как МФТИ и МГУ, а позднее и НИУ ВШЭ, продолжали передавать математические и естественно-научные знания дальше. Иногда это делали ученые старшего поколения, успевшие поработать над крупнейшими научно-техническими проектами страны. В моем случае физику преподавали специалисты, участвовавшие в атомном проекте.
Говоря о школах прошлого, важно разделять память о научной традиции и ее реальное продолжение. Когда группа называет себя продолжателем известной школы, она должна подтверждать это новыми идеями, публикациями и подготовкой следующего поколения.
Существует ли подобная научная среда сегодня? Да, просто устроена иначе. Например, исследования в области ИИ — молодое направление. В нашем институте средний возраст сотрудников составляет 30 лет. В этом есть что‑то, напоминающее мне по описаниям научную атмосферу 1950–1960‑х годов.
В России формируется новая инфраструктура исследований в области ИИ. Развиваются центры в МФТИ, МГУ, Сколтехе, ИТМО и Иннополисе, крупные команды в технологических и промышленных компаниях — «Сбере», «Яндексе», МТС, Т-Банке, «Авито», «Норникеле», «Газпроме»… Вокруг этих команд складывается научная и технологическая среда, и сейчас принципиально важно, чтобы молодых ученых становилось больше.
Мне часто задают вопросы, какой ИИ круче — российский, китайский или американский — и чем наши научные школы друг от друга отличаются. Крупные западные университеты десятилетиями приглашают к себе выдающихся исследователей со всего мира, а те, в свою очередь, создают им репутацию. Поэтому нельзя сказать, что в MIT или Калтехе существует какая‑то особая научная школа, хотя там и делают сильную науку. Если начать думать через бесконечные сравнения, можно повторить историческую ошибку про деление некоторых методов на прозападные и советские. Глобальная среда в ИИ довольно однородна и стоит при этом на плечах у лидеров. Наше преимущество — множество талантов. Чтобы делать хорошую науку, нужно ориентироваться именно на них. Ведь новые направления часто развиваются благодаря людям, которые еще не успели привыкнуть к ограничениям и готовы пересматривать устоявшиеся подходы. Однако одного энтузиазма недостаточно. Главная задача сегодня — не восстановить то, что было потеряно, и не воспроизводить прежние «лучшие практики» под новыми названиями, а создать условия, в которых новые научные школы будут появляться и укрепляться. Они могут использовать накопленный опыт и продолжать прежние исследовательские традиции, но их состоятельность будет определяться результатами сегодняшнего дня.
