Все записи
13:52  /  1.06.20

321просмотр

Искусственный интеллект и наше будущее: задумаемся о том, какой мир мы готовим детям

+T -
Поделиться:

Сегодня юбилей одного замечательного праздника. Вот уже 70 лет подряд мы отмечаем 1 июня день защиты детей. У него есть даже свой символ – зеленый флаг с изображением планеты и разноцветных детских фигурок, протягивающих друг другу руки в знак единства и дружбы как единственной возможности мирного сосуществования. Решение об учреждении праздника было единогласно принято в 1949 году на специальной сессии Международной демократической федерацией женщин, решившей направить все силы на борьбу за мир ради того, чтобы у каждого ребенка планеты было счастливое детство, а впоследствии этот праздник был поддержан ООН.

Я сам отец, и поэтому горячо разделяю стремление всего просвещенного человечества защитить наших детей от ужасов войны и разрухи, а также соблюдать их права на жизнь, на свободу мнения и религии, на образование, отдых и досуг, на защиту от физического и психологического насилия, на защиту от эксплуатации детского труда. Дети метафорически – посланцы иного мира. Каждый ребенок – дар Божий, находящийся под покровительством святых и ангелов, защищающих его от демонических сил. Они – квинтэссенция и символ самой жизни. Поэтому сегодня я бы хотел поговорить еще об одной опасности для подрастающего поколения, которое, в отличие от нас, встретится с ней лицом к лицу. Я говорю об искусственном интеллекте (ИИ). 

Лаки Ли с дочкой Анастасией

«Искусственный интеллект — ресурс колоссальной силы, кто будет владеть им, тот вырвется далеко вперед», — сказал Владимир Путин в начале ноября 2019 года на большой конференции, посвященной современным технологиям. А затем добавил: «Предлагаю профессиональному сообществу, компаниям подумать над формированием свода этических правил взаимодействия человека с искусственным интеллектом. Мы с вами должны обязательно помнить: нельзя изобретать технологии ради самих технологий. И наша главная цель — это устойчивое гармоничное развитие, рост качества жизни и новые возможности для людей, для граждан. Безусловно, потому что человек является высшей ценностью. Из этого мы и будем исходить».

В развитие президентской инициативы вышел Федеральный закон от 24.04.2020 № 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных". Депутаты Госдумы приняли в третьем чтении закон, который введет в Москве с 1 июля и на пять лет специальный правовой режим для развития технологий искусственного интеллекта. Внесенная ко второму чтению поправка также вносит изменения в закон "О персональных данных" (152-ФЗ), допускающие обработку обезличенных персональных данных "о состоянии здоровья" граждан ради эксперимента.

Еще совсем недавно на сайте mos.ru любой желающий мог ознакомиться с проектом «Умный город 2030». Проект на днях без объяснения был удален с сайта, но любой желающий может найти его сохраненный текст (например, вот здесь)

Из наиболее одиозных пунктов этого проекта - носимые и вживлённые в организм медицинские цифровые устройства, подающие сигнал в городскую медицинскую информационно-аналитическую систему о предполагаемом ухудшении состояния здоровья или внезапном несчастном случае с тем, чтобы вызвать врача или скорую помощь прямо на место происшествия; начисление страховыми компаниями размера выплат исходя из полученных с датчиков данных об образе жизни человека, лечение когнитивных и иных расстройств нанороботами – микроустройствами, функционирующими внутри тела человека. Ну и на закуску – генная терапия и редактирование генома с целью лечения наследственных, приобретенных и инфекционных заболеваний. Проще говоря – тотальный контроль и слежка за гражданами на фоне полного доступа к их телу и здоровью. Разумеется, исключительно с благими намерениями, которыми вымощена дорога сами помним куда. Мне страшно от открывающихся перед нами перспектив, и я не боюсь в этом признаться.

Мы уже не в силах противостоять столь стремительному прогрессу в области ИИ. Однако, давайте вспомним о том, что ведущие ученые и интеллектуалы современности, такие как Стивен Хокинг, Стив Возняк и Илон Маск давно уже выражали обеспокоенность развитием ИИ. Искусственный суперинтеллект, по их мнению, может привести к ликвидации человека как биологического вида.

Видный философ и писатель Умберто Эко в своей статье «Осмысляя войну» сделал вывод, что с приходом в нашу жизнь искусственного интеллекта изменится формула войны. Если раньше она напоминала игру в шахматы, когда решения принимались поступательно и зависели в том числе от реакции противника, то совсем скоро мы, к сожалению, можем увидеть войну, проходящую по формуле «параллельного» искусственного интеллекта. Это доска, на которой расположены не белые и черные, а сплошь одноцветные фигуры, и любой ход ведет лишь к самопожиранию и финальному коллапсу. А всё потому, что нео-коннективная система, она же система нейронных сетей, сама себя модифицирует в поисках оптимального решения и сама порождает для себя правила, которые не были в нее заложены. В подобной системе обесценивается любой расчет, а война всегда проигрышна для обеих сторон.

В 1993 году американский писатель-фантаст Вернор Виндж в эссе «Грядущая технологическая сингулярность» (англ. The Coming Technological Singularity) отмечал, что это будет означать конец человеческой эры, поскольку новый суперинтеллект будет продолжать совершенствоваться и технологически развиваться с непостижимой скоростью.

Кто-то может сказать: это всего лишь совпадение, да и что могут знать о нашем будущем эти писатели-фантасты? Однако же к их мнению стоит прислушаться, поскольку именно писатели зачастую предугадывают, как будет развиваться технический прогресс. Вот только несколько ярких примеров тому: Марк Твен и Интернет (1898), Рей Бредбери и наушники (1953), Хьюго Гернсбек и видеозвонки (1911) и даже атомная бомба, описанная Гербертом Уэллсом в романе   "Освобожденный мир" в 1914. 

Вспомним учение академика Вернадского. Все мы живем в ноосфере, едином пространстве энергии и информации. Это биосфера, обработанная научной мыслью. В первых строках Евангелия от Иоанна говорится: «В начале было Слово, и Слово было у Бога, и Слово было Бог». Так перевели Евангелие на старославянский язык Кирилл и Мефодий. Слово – это информация. Творение – это энергия. Следовательно, Бог – это энергия и информация. В оригинале Евангелия вместо «слова» значился «логос», т.е. «закон». И не просто закон, а неписанные и непреложные законы нравственности, что и подчеркивало основное значение: Закон – это Слово. Так что не удивительно, что талантливые люди, писатели, ученые, деятели искусства, выполняя свое жизненное предназначение, могут предсказывать мир будущего, будучи подключены к общему разуму. В моменты созидания мы так поглощены своим занятием, что внешняя среда, тело и время перестают существовать. Это и есть жизнь, это и есть божественный закон. «Ибо мы – Его творение, созданы во Христе Иисусе на добрые дела, которые Бог предназначил нам исполнять.» Ефес. 2:10.

Профессор нейрохимии и нейробиологии Джон Диспенза, автор книги «Сила подсознания», находит подтверждение феномену общего разума и энергии в том, что клетки мозга не отличают реальные физические переживания от воображаемых — происходящих у нас в мыслях, о чем свидетельствуют результаты многочисленных опытов и экспериментов. Наша энергия уходит туда, куда направлено внимание, и может расходоваться как на созидание, так и на разрушение. К сожалению, человечество в настоящий момент не столько созидает, сколько разрушает себя изнутри: техногенные и экологические катастрофы, инфекции, войны. Миропорядок нарушен, человечество потеряло общую цель. А вместе с целью пришли и проблемы с исцелением. Коронавирус covid19, возникший словно ниоткуда, заставил нас задуматься о спасении собственного вида.

Если мы разделяем то, что БОГ – это энергия гармоничного порядка, то ИИ не закладывает в свои механизмы идеи мира и объединения, а всё потому, что ИИ изучает человека, конфликтующего с соседями и живущего в состоянии постоянной конкуренции за доступные ему блага и ресурсы; ИИ изучает мировые события и катастрофы и формирует свою матрицу значений, в которых нет места миру. Мы, люди – уникальные биологические системы, наделенные возможностью обучения и самопознания. Уберем слово «биологические» и получим определение для искусственного интеллекта. А, следовательно, нам нужно понять, в чем же наше фундаментальное различие? Какова мотивация у не-человеческого интеллекта? Всегда ли он поступает рационально, или же в большинстве случаев руководствуется теми же мотивами, что и обычные люди? Ведь именно люди его обучают, и именно их систему взаимоотношений искусственный интеллект воспринимает как некий нулевой образец. Мы слишком мало знаем о самих себе, чтобы предугадывать мотивы, по которым будет действовать разум, потенциально в тысячи раз превосходящий наш собственный.

Чтобы понять, чем же конкретно может на данном этапе угрожать человечеству цифровой интеллект, обратимся к специалистам. Французский эксперт в области этики и политики, директор отдела этики и политики Исследовательского центра по проблемам этики (CRÉ) в Монреальском университете, Марк-Антуан Дилак не исключает, что ИИ может стать инструментом дискриминации по расовому признаку, сексуальной ориентации и прогнозированию поведения людей, что требует, как минимум, законодательного контроля над новыми технологиями. Остановимся на этом подробнее.Так, Марк-Антуан Дилак обеспокоен появлением программного обеспечения для анализа поведения людей по видеозаписям, подобно той, что сейчас тестируется в переходах станции Шатле парижского метрополитена, с целью анализа и фиксации агрессивных действий. Да, решение относительно того, нужно ли вмешательство в ситуацию, пока остается за людьми, но не следует забывать про высокую вероятность ошибки. 

Еще большее опасение внушает то, что применение интеллектуальных систем и методов расового и социального профилирования может вести к злоупотреблениям. Например, программы для выявления «террористического» или «криминального» поведения претендуют на то, что выявляют в человеке склонность к преступлению. Склонность! Ты ничего не совершил, просто шел в плохом настроении по людному месту и попал под наблюдение правоохранителей, потому что искусственный интеллект счел тебя потенциально опасным!

Когда-то человечество уже наступало на эти грабли. Вероятно, многие помнят такую лженауку, как физиогномику, изучавшую характер человека по строению и выражению его лица. Чтобы предупредить социум об опасности распространения подобных программ, вторгающихся в личную жизнь граждан, Михаль Косински и Илунь Ван из Стэнфордского университета в США пошли на дерзкий эксперимент и в 2017 году создали программу «Гейдар», определяющую по фото склонность человека к гомосексуализму.

Если принять на веру смелое утверждение авторов, что погрешность их программы составляет всего 20%, то в случае её использования перед человечеством поистине разверзается бездна. Никто из нас не обязан прилюдно раскрывать свою сексуальную ориентацию, а тем более оправдываться, если она оказывается не традиционной. И даже если человек не вступает в сексуальную связь с кем бы то ни было, но определяется программой как «сами-знаете-какой» субъект, он все равно будет стигматизирован обществом раз и навсегда.

На сегодняшний день еще не созданы системы общего, или т.н. сильного искусственного интеллекта. Компьютерные системы могут хорошо делать только одну-две конкретных задачи. Например, в доли секунды решать «транспортную задачу», у которой не может быть наилучших решений, только оптимальные . Или распознавать лица на экранах мониторов. Или прокладывать маршрут. Делать – и делать качественно! –  несколько разноплановых задач одновременно существующие ныне интеллектуальные системы пока не способны. Но создание таких систем – дело самого ближайшего будущего. И тогда мы вплотную подойдем к рубежу, когда машинный интеллект покажет свое значительное превосходство над человеческим. Ведь принятие решений в условиях работы с огромными массивами данных уже дается компьютеру значительно лучше, чем человеку, чему имеется масса подтверждений.

Но есть ли у искусственного интеллекта сознание? Вернее, самосознание? Да, одна система может выделять себя среди всех прочих, осуществляя тем самым процесс самоидентификации. Но как насчет эмоционального интеллекта? Как насчет базовых когнитивных чувств? Симпатия, привязанность, сострадание, любовь? Способен ли человеческий гений создать алгоритм для обучения искусственного интеллекта, вследствие которого мы получим на Земле полноценный разум небиологического происхождения? И будем ли мы удовлетворены получившимся результатом?

Часть специалистов рассчитывает, что над искусственным интеллектом будет установлен общий международный контроль, зафиксированный определенными договоренностями между странами-разработчиками соответствующих систем. Но тут возникает опасность того, что договоренности имеют вес для людей, их подписавших. Но не для самого искусственного интеллекта, который по одному ему ведомым причинам в самый ответственный момент с легкостью нарушит все обязательства.

С другой стороны, есть мнение, что поскольку у роботов отсутствует человеческое любопытство, а появиться ему в обозримом будущем неоткуда, то искусственный интеллект никогда не задаст себе вопрос «а что, если?» Следовательно, у него отсутствуют какие бы то ни было потребности, и логично исходя из этой предпосылки – личные цели у искусственного интеллекта отсутствуют тоже. Чего нельзя сказать о целях, которые перед ним поставили конкретные люди и которые он обязан выполнить. А уж какой ценой он этого достигнет, мало кто принимает сегодня в расчет. И именно этот факт безмерно меня тревожит. Не убьет ли ИИ, разрабатывающий лекарства от вируса, всех его носителей? Не истребит ли военный дрон гражданское население ради безопасности союзных войск? Не ликвидирует ли нейросеть, призванная защитить человечество от климатической катастрофы, все технологии, которые так или иначе воздействуют на экологию планеты?

Говорят, нет пророка в своем отечестве. И все же я призываю задуматься, пока не поздно, над тем, какой мир мы оставляем нашим детям. Не станут ли подростки поколения Z последними представителями вида homo sapiens на Земле? Все зависит от нас, их родителей. Пока еще зависит…

Ваш обеспокоенный миротворец Лаки Ли