Колонка

Четвертая мировая. Big Data

17 февраля 2017 9:45

Вы все еще ощущаете себя «венцом творения»? Зря

Обыватель уверен, что мы никогда не создадим искусственный интеллект, который будет обладать «личностью» и «сознанием» как у человека.

Большинство ученых, занимающихся разработкой искусственного интеллекта, полагают, что это случится уже где-то через 40–60 лет.

Но правда в том, что сама эта задача абсурдна. Уже очень скоро нами будет управлять искусственный интеллект, который не имеет с человеческим разумом ничего общего. И именно поэтому он будет намного умнее нас.

Впрочем, почему «будет»? Как показала феерическая предвыборная кампания Трампа, этот интеллект уже есть! Знакомьтесь…

Начнем, пожалуй, с небольшого и нехитрого следственного эксперимента. Посмотрите на пункты, представленные ниже, и скажите, насколько указанные факторы влияют на ваше настроение?

  1. Ситуация на работе.
  2. Продолжительность сна.
  3. Физическое самочувствие.
  4. Погода на улице.
  5. Был ли секс накануне.
  6. День недели.
  7. Фаза менструального цикла (касается только женщин, разумеется).

Уверен, что задание не показалось вам сложным. Кому-то из нас важно хорошо выспаться. Другим секс заменяет RedBull. Третьи ждут пятницы как манны небесной. Четвертые горят на работе.

В общем, тут все ясно, понятно и закономерно. Но проблема в том, что вы ошиблись. И не важно, как именно вы ответили.

Два социальных психолога из Гарварда — Дж. Вейсс и П. Браун — попросили студенток заполнить эту анкету, а затем методично наблюдали за ними в течение нескольких месяцев. Фиксировались все упомянутые факторы, а также действительное настроение молодых женщин в течение каждого дня.

Мы, конечно, считаем наше сознание невероятно мощным, но его действительный КПД курам на смех

Выяснилось следующее.

Во-первых, все студентки пребывали в тотальной иллюзии — никакой корреляции между их ответами и реальным положением дел обнаружено не было.

Во-вторых, все женщины, заполняя свои анкеты, отвечали примерно одно и то же. То есть у гарвардских студенток есть некая единая (и предельно неадекватная) концепция того, что влияет на их женское настроение.

Гарвард вряд ли представляет собой исключение из общего правила, а его студентки вроде как круглыми дурами быть не должны. А это значит, что выводы данного исследования касаются каждого из нас.

Но как может быть, что мы живем в совершенно искаженной модели реальности и не замечаем этого?

Все дело в нашей с вами «личности». Наша хваленая «личность», как показали исследования социального психолога Ли Росса и нейрофизиолога Маркуса Рейчела, лишь «история», «сказка», которую мы сами себе рассказываем, чтобы сохранять иллюзию собственной здравости.

Примерно тот же фокус и с нашим «сознанием». Мы, конечно, считаем его невероятно мощным, но его действительный КПД курам на смех. Рассуждая, мы можем удерживать в сознании не более семи-девяти объектов, а делая выводы, способны учесть не больше трех-четырех параметров.

Конечно, и этим можно гордиться, особенно сравнивая себя с кольчатыми червями. Но глупо делать то же самое, когда нашим конкурентом выступает машина, которая, принимая решение о нас и нашей жизни, учитывает неограниченное множество элементов ситуации.

Да, искусственный интеллект не сам стал таким сообразительным, но и не мы сделали его таковым, не надо обольщаться. Всему виной человеческая глупость и высокомерие: мы, не осознавая рисков, разоблачились перед ним подчистую, провели, так сказать, полный скрининг своей «экзистенции».

И теперь искусственный интеллект знает про нас все. Это, собственно, и есть та самая BIG DATA, а по-русски говоря, «большие данные».

Искусственному интеллекту не надо «думать»: он просто учитывает все факты и действует соответствующе

Когда компания Google только начала придумывать свой автомобильный автопилот, она планировала создать робота-водителя, подобного человеку. Но скоро стало понятно, что это тупиковый путь: слишком криво и неэффективно человек решает элементарную по сути задачу — добраться до места, соблюдая правила ПДД, и ни с чем по дороге не столкнуться.

Тогда Google стала разрабатывать «умный автомобиль» — мол, если не получается сделать чатланина, то хотя бы пепелац с гравицапой изобретем! Но в 2016 году закрыла и этот проект.

Выяснилось, что для создания автопилота не нужен ни человекообразный робот, ни особенный автомобиль. Достаточно предоставить искусственному интеллекту все данные, относящиеся к задаче, и он справится с ней сам — без нас и лучше нас.

Выводы, которые делает искусственный интеллект, управляющий автомобилем на основании бесчисленного множества данных (с карт, камер, датчиков, контроллеров и т. д., и т. п.), совсем не те, что делаем мы с вами, когда сидим за рулем. Честно говоря, мы даже не знаем, какие он выводы делает. Да и «выводы» ли это?

Искусственному интеллекту не надо «думать»: он просто учитывает все факты и действует соответствующе.

Мы пытаемся обхитрить узость и ограниченность собственного ума, а потому лишь фантазируем о том, как бы решить задачу. Он же просто ее решает, а поэтому и выигрывает — в шахматы у Каспарова, в го у Ли Седоля. Скоро победит и в «Формуле-1», причем с парализованным Шумахером на борту.

Или вот посмотрите, как работает переводчик Google — это же диво какое-то расчудесное! Но как он научился так складно писать на всех языках?

Сначала разработчики допустили ту же самую ошибку: они пытались учить машину языку, как первоклашку из школы для детей с отставанием в развитии. Но толку от этого было мало.

Так что и в этом случае создатели искусственного интеллекта плюнули на попытки очеловечивания электроники, загрузили в систему все документы ООН (которые, понятно, одновременно переведены на большинство языков), и искусственный интеллект сам обнаружил в этих файлах все необходимые ему взаимосвязи.

Знает ли переводчик Google язык так же, как знаем его мы? Нет. Знает ли он правила языка, которые знаем мы? Нет. Понимает ли он, о чем идет речь, когда он переводит слово за словом, предложение за предложением? Нет.

А ему и не надо, он просто очень хорошо решает поставленную задачу — сначала выявляет скрытые в больших массивах данных одному ему понятные закономерности, а затем использует их в работе уже с другими данными. Получается идеально.

Короче говоря, там, где мы действуем интуитивно, впотьмах и, мягко говоря, не всегда успешно, искусственный интеллект, взращенный на нивах больших данных, работает четко, строго и результативно. Правда, мы не знаем как. Больше того, мы нашим ограниченным сознанием этого и не поймем.

Все это я к тому, что пора уже забыть научно-фантастические фильмы о восставших роботах и законы робототехники Айзека Азимова. Когда нас накроет волна сверхмощного искусственного интеллекта, основанного на механизмах нейронного обучения и BIG DATA, мы даже не заметим, как нас сделали.

Впрочем, именно это уже и случилось. Однажды в Америке… Трамп.

Почти вся американская пресса была против Трампа. Но Дональду хоть бы хны: в огне не горит, в воде не тонет

Ученые шепчутся, а журналисты бодро пишут о том, что Трамп выиграл эти выборы благодаря BIG DATA.

Наверняка мы об этом, конечно, ничего не знаем. Но в том, что случилось, согласитесь, обнаруживается масса странностей.

Во-первых, оскандалились социологи: по данным предварительных соцопросов, победа Клинтон казалась неизбежной. А вот на тебе.

Во-вторых, почти вся американская пресса — этот великий рупор общественного мнения, — была против Трампа. Но Дональду хоть бы хны: в огне не горит, в воде не тонет.

Наконец, в-третьих, какая-то совершенно удивительная прицельная стрельба по выборщикам: по этому ключевому для результатов выборов показателю Трамп побеждает Клинтон с большим запасом, тогда как фактических голосов американцев за него отдано на два миллиона меньше.

О том, что в деле замешаны именно BIG DATA, судят по двум весьма косвенным признакам.

Первый признак: три четверти рекламного бюджета избирательной кампании было потрачено Трампом на продвижение в сети.

Второй признак, куда более определенный — заявления представителей компании Cambridge Analytica, специализирующейся на «политическом микромаркетинге»: мол, мы сами не ожидали, насколько повлияем на исход голосования!

Может, просто хвастаются и хотят погреться в лучах чужой славы? Не исключено. С другой стороны, Трамп нанял эту компанию после фантастического взлета Теда Круза и сразу после Brexit, а именно на их стороне и воевала Cambridge Analytica со своей «прорывной технологией по “методу океана”».

Сейчас, кстати, на услуги Cambridge Analytica претендует и Марин Ле Пен. Впрочем, договариваться ей придется уже с самим Трампом: такая корова, как выясняется, нужна самому — сотрудники компании получили назначения в президентской администрации.

Модель Козинского научилась за десять лайков узнавать человека лучше, чем коллеги по работе, а за триста — чем родители или супруг

Так что же, как говорят, натворила Cambridge Analytica во главе с ее директором Алексом Никсом аккурат перед самыми выборами?

Система искусственного интеллекта методично бомбила пользователей социальных сетей сообщениями, четко побуждая их к определенным эмоциональным реакциям: «Возлюбите Трампа!», «Возненавидьте Клинтон!». И не просчиталась.

Авторство технологии, судя по всему, принадлежит поляку Михалу Козинскому. Работая в Кембриджской лаборатории психометрии, он сделал приложение для Facebook, которое позволило собрать огромное количество данных о психотипах пользователей этой социальной сети.

Сличив эти данные с поведением пользователей в аккаунтах, Козинский получил алгоритм, который всего по 68 лайкам в Facebook определял цвет кожи человека, его сексуальную ориентацию, политические взгляды, уровень интеллекта, религиозность, отношение к алкоголю и т. д., и т. п.

Первая научная статья на эту тему была опубликована в 2012 году, а с тех пор прогресс, как вы понимаете, был сделан большой.

Модель Козинского научилась за десять лайков узнавать человека лучше, чем коллеги по работе, а за триста — чем родители или супруг. Теперь вспоминаем гарвардских студенток и понимаем, что в целом система знает пользователей Facebook лучше, чем они сами.

Поэтому вклад BIG DATA в победу Трампа можно оспаривать, но глупо отрицать работающий здесь принцип.

Что ж, самое время вернуться к вопросу о «личности».

Козинский определяет нас лишь по пяти показателям: открытость новому, интроверсия и экстраверсия, ответственность, доброжелательность, нейротизм. У Никса и Cambridge Analytica всего пять базовых профилей личности.

Собственно, такой нехитрой математики, как выясняется, вполне достаточно, чтобы каждого из нас «посчитать». И мы можем сколько угодно рассуждать о собственной индивидуальности, исключительности, невообразимости и т. д. Но это бред сумасшедшего, страдающего манией личностного величия.

Желающие могут обманываться и дальше. Но их тоже посчитают: на непереводимом языке искусственного интеллекта будет сделана соответствующая пометка — «наивен, недальновиден, без ума от себя».

Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google

Да, мы кажемся друг другу разными, но искусственный интеллект, работающий с BIG DATA, этого не подтверждает. Подобно гарвардским студенткам, мы, в общем и целом, думаем одно и то же, а реагируем предельно ограниченным количеством способов.  

Если анализировать все, что мы с вами делаем — и в онлайне, и в офлайне (к чему, собственно, и движется семимильными шагами новая технология), — а не частью и не местами, как это происходит в рамках социальной коммуникации, мы предельно предсказуемы.

Поэтому Рей Курцвейл работает сейчас над созданием индивидуального помощника, который будет знать, чего мы хотим, раньше нас. А Элон Маск — над автомобилем, который будет знать, куда мы собираемся поехать, даже если мы ничего ему об этом не сообщим.

Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google. И в результате какой-нибудь Трамп вполне может появиться там, где, что называется, не ждали.

Искусственные самообучающиеся нейронные сети, получившие в распоряжение всю возможную информацию о нас, включая не только данные о нашем поведении в интернете, но и с банковских карт, информацию о наших передвижениях через GPRS смартфона, наши телефонные звонки, эсэмэски, твиты, медицинские карты, фотографии, данные с видеорегистраторов, налоговые декларации и т. д., и т. п., возьмут нас под тотальный контроль, а мы этого даже не заметим.

И вот почему так важен пример Трампа: это не будет контролем в стиле Оруэлла или Хаксли, это будет тотальный контроль, который мы, при всем желании, не сможем идентифицировать. Мы просто будем действовать так, как велит нам искусственный интеллект, искренне полагая, что совершаем свой сознательный и личностный выбор.

Он возьмет нас голыми руками.      

Алан Тьюринг страдал от замкнутости и одиночества. Он плохо понимал других людей, и те отвечали ему взаимностью.

Ему очень хотелось сделать машину разумной, чтобы она могла понять его и чтобы он смог поговорить с ней. Он даже назвал ее в честь своей юношеской влюбленности — Кристофера Морка.

Вот почему знаменитый на весь мир «тест Тьюринга» — это, по сути, тест на выявление «личности» у искусственного интеллекта. И да, из-за своего аутизма Тьюринг ввел нас в заблуждение.

Сверхмощный искусственный интеллект возникнет и обыграет человечество именно потому, что ни личности, ни сознания у него не предвидится.

Он будет трезво анализировать факты, игнорируя предрассудки, заложниками которых мы являемся. И делать то, что скажет ему…

И вот тут вопрос. Может быть, Трамп?

Не знаю. Но, вероятно, субъект будет с деньгами.

Продолжение. Предыдущие части читайте здесь:

13 комментария
Тамара Талызина

Тамара Талызина

Примитива всегда больше, чем развитого. Победить аргументом толпу маловероятно. Тайное правительство будь то массоны, искусственный интеллект или кгбисты бессильно в точном управлении массами. Можно сыграть шахматную партию, доехать на автомобиле по маршруту. Но вот дурак берет доску и разбивает ее. Партия формально не закончена. А в умную машину въезжает грузовик с пьяным водителем. Машина не доехала.  Человек сам с собой договориться не в состоянии... Управлять неуправляемыми системами можно кнутом и пряником. Что человечество делало многие тысячи лет. С переменным успехом. Мне кажется, не надо бояться мощных правящих систем. И так жизнь в глобальном смысле страшна. Ибо от нее неизбежно умирают. Следует выискивать в доступном окружении "братьев по разуму" и строить изолированные системы общения. Локальные. Чтобы было приятно вместе бояться ))

Владимир Генин

Владимир Генин

Можно потрепетать с вами в унисон? ))

Тамара Талызина

Тамара Талызина

Мне очень нравится унисон! Но я не слишком пугливая...

Владимир Генин

Владимир Генин

 Неужто старания Курпатовы напрасны!

Тамара Талызина

Тамара Талызина

Да... Я  еще раньше так всего испугалась, что теперь мне уже искусственный интеллект не страшен. Вряд ли он хуже коллективного разума ;)

Эдуард Гурвич

Эдуард Гурвич

 Сон, погода, дни недели...шесть факторов, которые влияют на наше настроение, в первую очередь, рабочее, которые выставили гарвардские психологи... Искусственный интеллект. Разработки, предсказывающие наше поведение.  Паника по поводу того, что   манипулировать нашим сознанием теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google. И в результате какой-нибудь Трамп вполне может появиться там, где, что называется, не ждали.... Смешно всё это. Без всяких этих ухищрений создатели ГУЛАГа сначала  отправили  учёных в  бараки, потом вытащили, создали "шарашки" и   делали с  этими физиками да и лириками,  всё что хотели, умеренно прикармливая, сначала хлебом вдоволь, потом маслом, потом дачами, машинами, "писательскими посёлками", "академгородками", но держали их всех за жопы  и за железном занавесом... Десятки лет. И никаких таких экспериментов архитекторам ГУЛАГа не  потребовалось. Почему? Как это получалось? Это нам только кажется, тут всё ясно.  Ну да, теперь невозможно это. Мол, интернет разрушит железный занавес... Совсем не обязательно. Он может упростить  задачу его создания. А ведь на сознание влияли примитивными методами - не давали хлеба, воды, лупили, чтоб работал....Может всё проще? В этом смысле эксперимент с гарвардскими студентами, у которых  всё есть, включая свободу, мне кажется просто нечистым... Возможно, я всё упрощаю. Но всё же, вдруг это зацепит кого-то тут, включая уважаемого автора блога. Хотя вряд ли:)

Владимир Генин

Владимир Генин

Люди не могут без страшилок. Они пользуются неизменной популярностью, а для этого этими страшлками манипулируют другие. Без сомнения, технический прогресс создает множество новых проблем по мере решений старых. Но главной проблемой всегда останется сам чловек. Привлечь внимание людей к по-настоящему страшным вещям гораздо сложнее -  напоминание о них всем изрядно надоело. Старые ловушки же вполне пригодны для употребления, они не ржавеют. 

Борис  Цейтлин

Борис Цейтлин

А автора все-таки есть одна свежая мысль: о том, что ИИ "умен" не на людской манер.

Анна Квиринг

Анна Квиринг

- причем эта свежая (в данном страшилочном контексте) мысль перечёркивает многие устрашающие интенции :)

Но желающие, конечно, могут ещё больше испугаться этого нечеловеческого чудовища.

Таня Ратклифф

Таня Ратклифф

Я сама с большими данными работаю и мне очень нравится, как в прессе мистифицируют эту область :).  Она изнутри гораздо скучнее, если честно.  Но это, видимо, во всем так ... 

Владимир Генин

Владимир Генин

Думаю, что такого рода исследования всегда подтверждают то, что хотят подтвердить экспериментаторы.  

Владимир Генин

Владимир Генин

Андрей Занин

Андрей Занин

Подозреваю, что и подобные статьи (Да лучше, лучше!) в самом ближайшем будущем он (машинный разум) тоже за нас писать будет, а мы наивно будем думать, что это какой-то шибко продвинутый Нэо, борется за нашу свободу. Не говоря уже о романах "толстых" с "достоевскими". Эпоха великой эмитации (ЭВЭ ©Anton Litvin) вступила в качественно новый этап эволюции.