Виктор Ерофеев   /  Владислав Иноземцев   /  Александр Баунов   /  Александр Невзоров   /  Андрей Курпатов   /  Михаил Зыгарь   /  Дмитрий Глуховский   /  Ксения Собчак   /  Станислав Белковский   /  Константин Зарубин   /  Валерий Панюшкин   /  Николай Усков   /  Ксения Туркова   /  Артем Рондарев   /  Архив колумнистов  /  Все

Наши колумнисты

Андрей Курпатов

Андрей Курпатов /

288589просмотров

Четвертая мировая. Монстр

Иллюстрация: Ian
Иллюстрация: Ian
+T -
Поделиться:

Продолжение. Первую часть читайте здесь: «Четвертая мировая. Начало»

В 1939 году Альберт Эйнштейн написал президенту Франклину Рузвельту письмо, ставшее впоследствии знаменитым. В нем автор теории относительности фактически потребовал от США начать работы по созданию атомной бомбы. В противном случае, объяснял Эйнштейн, гитлеровская Германия создаст это смертоносное оружие раньше и судьба мира будет предрешена.

Стивен Хокинг — Эйнштейн нашего времени, но сейчас президентам письма не пишут. И президенты уже не те, да и что они могут? В 2014 году Хокинг выступил на BBC с пугающим прогнозом: «Разработка полноценного искусственного интеллекта может означать конец человеческой расы». Илон Маск отозвался в своем твиттере: «Нам нужно быть предельно аккуратными с искусственным интеллектом. Потенциально он куда более опасен, нежели ядерные боеголовки».

Уже в 2015 году Илон Маск основывает некоммерческую компанию OpenAI, ее цель — создать открытый и дружественный человеку искусственный интеллект, в противовес «злонамеренному искусственному интеллекту», над которым, как считается, работают все остальные — от Сергея Михайловича Брина до Рэймонда Курцвейла. Так что в этой истории кроме современного Эйнштейна есть и свой Роберт Оппенгеймер.

Маск провел переговоры с десятью ведущими специалистами по искусственному интеллекту. Девять из них согласились присоединиться к благотворительному проекту: они оставили свои руководящие должности и баснословные зарплаты, чтобы попытаться спасти мир. И число этих Робин Гудов, надо сказать, неуклонно растет. Да, OpenAI Илона Маска — это новый «Манхэттенский проект».

Итак, кто современный Эйнштейн, а кто Оппенгеймер — понятно. Но вот кто Гитлер и Гейзенберг? И в чем суть этого нового оружия? Как оно будет действовать? И чем все это закончится?

***

Знаете такую телепрограмму «Своя игра» (калька с американского формата Jeopardy!)? Она для умников — в ней побеждали Александр Друзь, Борис Бурда, Анатолий Вассерман. Все как один — интеллектуальные крутышки. Но с 2011 года любой умник проигрывает в этой игре суперкомпьютеру IBM Watson. Watson не просто знает все ответы (имея свободный доступ к интернету, это, наверное, не слишком сложно), он научился понимать вопросы: различать подтекст, метафору, языковую игру и т. д., и т. п.

Так что вполне резонно задаться вопросом: а умеет ли суперкомпьютер IBM Watson думать? Создатель Watson’а — Дэвид Ферруччи — отвечает на это буквально так: «А умеет ли подводная лодка плавать?» Не торопитесь читать дальше — почувствуйте его иронию.

Искусственный разум скоро превзойдет человеческий по всем возможным параметрам, и наша дальнейшая судьба, поверьте, незавидна. Впрочем, мы даже думать об этом с должной серьезностью не можем. Не можем по той же причине, по которой не способны представить себе инопланетян иначе как человечками с руками и ногами. Наше воображение все лепит по своему образу и подобию. Нам просто недостает фантазии, а точнее, ума.

Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но все это — лишь культурные химеры, удобные фикции. Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток — химические реакции и электрические импульсы. Мы сами — программный продукт собственного мозга. А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.  

Понимаю, что все это звучит не слишком ободряюще. Но это правда. Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет. Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта — игнорировать факты и совершать беспримерные глупости, о чем со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.

Впрочем, это только лишний повод задуматься: у искусственного интеллекта подобных дефектов, обусловленных нашей человечностью, не предвидится. Так что оживающая на глазах железяка имеет все шансы надрать нам зад. И не только в «Своей игре». Тем более что это будет уже «Его игра».

***

У биологического интеллекта, конечно, была фора в несколько миллионов лет. Но ведь и темп был другой. Сейчас искусственный интеллект развивается тем же путем — методом проб и ошибок, используя механизмы подкрепления и обратной связи. То есть это полноценная эволюция по механизму естественного отбора. Только вот скорость соответствующих итераций — переходов от поколения к поколению — на порядки выше. Да и материал для своего интеллектуального развития этот «человеческий детеныш» получает на блюдечке с голубой каемочкой. Это не просто информация, а хорошо структурированная, взаимосвязанная, иерархически выстроенная информация. Учись — не хочу.  

Если же кто-то еще думает, что современный искусственный интеллект программируется умными дяденьками — строчка за строчкой, алгоритм за алгоритмом, а потому вся его жизнь под строгим контролем, — забудьте. Это самообучающиеся, самонастраивающиеся и саморазвивающиеся системы. Что у такого «черного ящика» внутри, никому неизвестно. Мы не знаем, как он выигрывает в «Своей игре» или в го у лучшего гроссмейстера на планете. Тот же Ферруччи, как любящий отец, счастливо рекомендует свое чадо: «Люди спрашивают, а почему Watson здесь ответил неправильно? Я не знаю. Почему он здесь ответил правильно? Я не знаю тоже!» В общем, «Карнавальная ночь»: «Есть ли жизнь на Марсе, нет ли жизни на Марсе? Наука пока не в курсе дела! Асса!» Только, в отличие от Марса, наука создала этого монстра собственными руками.

И конечно, все эти турниры да телевикторины — лишь верхушка айсберга, демонстрация возможностей, шоу-бизнес. Пока мы забавляемся показательными выступлениями, искусственный интеллект трудолюбиво учится распознавать нашу речь, говорить, узнавать нас в лицо (проекты, финансируемые DARPA) или, например, называть человеческим языком визуальные объекты (разработка NeuralTalk, Стэнфордский университет). Еще он теперь может сказать, где была сделана та или иная фотография (нейронная сеть PlaNet компании Google), о чем то или иное видео (система Cortex компании Twitter), заранее знает, кто победит на премии «Оскар» или в Суперкубке, а еще делает ставки на скачках 540 к 1 и выигрывает (система UNU Льюиса Розенберга).

Впрочем, больше всего меня умиляют роботы-писатели. Да, они пишут превосходные заметки! О спортивных соревнованиях, о ситуации на финансовых рынках, недвижимости, да и просто весьма увлекательно излагают обычные городские новости (компания Automated Insight Робби Аллена). И должен сказать, зачастую читать эти тексты куда приятнее, чем аналогичные опусы, созданные профессиональными журналистами. Так что, если вы на 100% уверены, что данный текст об искусственном интеллекте написан человеком, а не самим искусственным интеллектом, помните: это может оказаться иллюзией.

Да, машины уже очень неплохо справляются с задачами, которые мы традиционно считаем уникальным свойством человеческого мозга. Пока это лишь разрозненные системы, но представьте, что некий суперкомпьютер совсем скоро объединит в себе все эти способности. Впрочем, любая машина все равно будет лишь жалким подобием человеческого интеллекта, правда? Ох уж это наше самомнение! Подобием — да, но отнюдь не жалким, ведь она сможет одновременно учитывать все накопленное человечеством знание, а главное, будет иметь всю возможную информацию о каждом из нас.

***

«Надеюсь, мы с вами не являемся чем-то вроде загрузчика для искусственного суперинтеллекта будущего, — пишет Маск в том же твиттере. — Но, как мне кажется, все идет именно к этому». Маск одним из первых осознал, что значит предоставить искусственному интеллекту всю информацию о нас. То есть не то, что мы о себе думаем или, например, как мы выглядим (это нужно лишь для того, чтобы нас идентифицировать), а именно всю, то есть все о нашем действительном поведении, способах принятия решений и наших желаниях.

Это, вероятно, и пугает Маска больше всего, неслучайно же он говорит об искусственном интеллекте как об «экзистенциальной угрозе» человечеству. Представьте, что машина начинает предугадывать наши желания — мы и сами-то со своими желаниями не способны разобраться, но она справится, ведь знает не только то, что мы думаем, но и то, как действуем. Само по себе это, наверное, и неплохо. Но кто сказал, что искусственный интеллект распорядится соответствующим знанием в наших интересах? Если он будет знать наши желания, он сможет и влиять на них, управлять ими, то есть нами. Поэтому, надо полагать, Маск и ополчился на Google (а отчасти и на Facebook), хотя и уходит от прямых вопросов на эту тему.   

Интернет-гиганты совсем не так давно вышли на безубыточность, а реальные вложения и вовсе далеки от окупаемости. Ставка изначально делалась не на прибыль, и не ради прибыли сюда вкладывались инвесторы. Ставка делалась на завоевание максимального объема рынка — на количество пользователей, захваченных тем или иным ресурсом. Google, Facebook (и поглощенный им Twitter), Apple, Instagram, «Яндекс» — все это своего рода виртуальные империи, в буквальном смысле колонизирующие народы и создающие свои квазигосударства.

Вопрос лишь в том, как этим империям управлять своими гражданами и какой бенефит из этого можно извлечь. Пока прежние политические системы деградируют, новые игроки политического рынка — интернет-гиганты — превращаются в протогосударственных монстров. Я всегда считал, что состояние рабства должно определяться следующим образом: тебе платят не за то, что ты делаешь, а за то, что ты просто есть (ну, а что тебе делать или не делать — уже не твоего ума дело). По этому принципу и развиваются эти новые империи — мы у них есть. Рабы и папуасы глобальной сети интернет, которые даже не догадываются, что их «уже посчитали».

Сейчас в штаб-квартирах новых мировых интернет-империй создается искусственный интеллект, который будет управлять нами изнутри системы. И бьюсь об заклад, что его создатели сами еще не знают, как этой безумной и неограниченной властью распорядиться. Полагаю, пока они рассуждают типичным для таких случаев образом: завоюем, поработим как следует, а потом уж решим, что со всем этим делать. А решать, действительно, придется: не ровен час, когда все завоеванное ими «богатство» (то есть мы с вами) превратится в самые настоящие черепки. Ведь если искусственный интеллект действительно достигнет того уровня развития, который сейчас кажется уже почти неизбежным, сами по себе люди будут экономике не нужны. Более того, превратятся в обузу.

Ну правда, раньше рабочая сила была реальным капиталом (© К. Маркс), а сейчас какая в ней нужда? Представьте себе недалекое будущее… На первых этажах наших домов вместо нынешних магазинов располагаются большие 3D-принтеры, к ним по трубам (что-то вроде нынешнего водопровода) поступает универсальный концентрат двух видов — съедобный и несъедобный. Вам остается только нажать на кнопку, и нужные предметы тут же изготавливаются и оказываются в вашей квартире. Причем сам этот концентрат также производится на бесчеловечных — полностью автоматизированных — производствах.

Искусственного креатива тоже будет хоть отбавляй. Его, чтобы мы не скучали, нам будут скармливать нон-стоп. Искусственный интеллект уже сейчас научился сочинять музыку и писать литературные тексты, а завтра он будет работать в системе полного цикла, поставляя нашему вниманию неограниченное множество аудиовизуальных произведений, причем в системе 3D-реальности. Смотреть можно будет сутками напролет — не оторвешься! То есть кроме искусственного хлеба нас ждут и искусственные зрелища, причем в избытке.    

Но зачем этой системе люди? При таком раскладе, люди становятся самыми настоящими «домашними животными». Но домашних животных тоже заводят не просто так: или для того, чтобы их есть, или же (и таких куда меньше в процентном отношении), чтобы им умиляться. Но кто нам в такой ситуации будет умиляться и, главное, зачем? Искусственный интеллект и вправду должен оказаться тем еще извращенцем, чтобы его умиляло человечество. А съесть нас… Ну да, эту версию я уже описывал в предыдущей статье («Четвертая мировая. Начало») — нанонож и все такое.

В общем, все это пока напоминает какую-то ужасающую футурологическую фантасмагорию. И неудивительно, что трогательного Илона Маска это пугает. Кстати, его странная затея с полетом на Марс — с билетом в один конец — не кажется на этом фоне столь уж эксцентричной выходкой.

Так или иначе, зная интернет-индустрию изнутри, Илон Маск пока пытается примерить на себя роль Морфеуса и создать что-то вроде анти-Матрицы — такой искусственный интеллект, который не будет, как, например, гугловский, нас контролировать. Но можно ли его контролировать, если он действительно станет интеллектом, то есть сущностью, обладающей своим собственным умом и самосознанием? На этот вопрос, кажется, даже у самого Маска ответа нет.

***

Новый Оппенгеймер строит новую бомбу, чтобы обогнать новых фашистов. Но даже если он их обгонит, бомба будет создана, а такие штуки без дела не пропадают. Немногие, наверное, об этом знают, но Эйнштейн отправил Рузвельту и второе письмо, когда у американцев уже была бомба. В нем, как нетрудно догадаться, Эйнштейн пытался убедить президента не использовать атомное оружие. По стечению обстоятельств, письмо оказалось на столе Рузвельта 12 апреля 1945 года — в день его смерти — и даже не было распечатано.

Позже, вспоминая трагедию Хиросимы и Нагасаки, Эйнштейн признается своему биографу: «Да, я нажал на эту кнопку». Впрочем, он явно преувеличивал. Если и нажал, то не более, чем Хокинг на свою, мигая веком.

Да, ни Маск, ни Брин, бьющиеся в своем искусственно-интеллектуальном противостоянии, не учитывают того факта, что на сцене, подобно черному лебедю Нассима Талеба, в любой момент вместо интеллигентного Рузвельта может объявиться боевой офицер Гарри Трумэн. И руки у новых Трумэнов уже чешутся… Но об этой чесотке я, пожалуй, расскажу в следующий раз.

Читайте также

Комментировать Всего 25 комментариев

Чего-то мне не хватает в этом вполне логичном описании. 

Наверное четкого механизма - каким образом, зачем и по какому порядку нас будут кушать?

Вот буквально так, какая мотивация нас сожрать, почему без нас лучше, с чего и по какой причине "начнется"?

Эту реплику поддерживают: Сергей Кондрашов

все так.. Все мы подсчитаны и, в значительной степени предсказуемы, by big data.  И да, почти никто на ту тему не только не чешется, но и не думает. :(((((((((((

Алекс, помилуйте, да все думают немного. Мне даже кажется, что это такой этап развития европейски образованного интеллектуала - после создания некоторой материальной базы вот такое думать (говорить, писать) - ну типа такая проекция вовне личного апокалипсиса и некоторая с ней попытка работы ;). Помните, была такая шутка в поздне советское время: половозрелость русского писателя наступает после изображения им образа Христа?;) Ну вот, и это что-то в таком же роде нмв, строго эволюционного порядка. Плюс людям же всегда нравилось, когда их пугают, механизм этой любви давно проанализирован и всем известен, и в медийных целях используется сплошь и рядом. Я сама очень люблю о таком говорить с десятыми классами в составе "экзистенциальной профориентации" :) - они самые восприимчмвые, так мило откликаются, ну и столько фильмов посмотрели, конечно, информированные по самое не могу... Правда, я им обычно говорю, что поскольку мы такие милашки забавные, а супермозгу тоже ведь надо чем-то заниматься, то он будет за нами ухаживать и вести юннатский дневник наблюдений со всем тщанием...:)) Но Андрей насколько я помню смысл жизни (для нас, ну и для супермозга, наверное, тоже) отрицает, поэтому ему конечно сложнее;)

Катерина, я понимаю. Общая претенизия к Андрею - апокалиптичность его взгляда. Но...............боюсь в России это мало заметно, да и в США об этом мало говорят, однако, за последние 20 лет мы из США разнесли по всему миру технологию, которая, с одной стороны, всех  нас соединила, а с другой - всех нас "посчитала".Каждый раз, когда Вы  выходите в и-нет, за Вами следят многочисленные программы, и все, что Вы делаете, складывается в так называемую Big Data. По ней можно узнать не только, где Вы живете, какие сайты посещаете, что где купили, чьи мнения поддержали. По ней с помощью Вашего телефона можно в  любой момент установить, где Вы находитесь и с высокой вероятностью предсказать. что Вы сделаете завтра, послезавтра и через месяц. Мало  того, по ней можно предсказать о Вас то. что Вы сами о себе не знаете. потому что у Вас это в подсознании, а Big Data по Вашим прошлым действиям определила, как оно работает, и с почти 100% вероятностью предскажет, что Вы сделаете в будущем. Вопрос точности предсказания только в том, достаточно ли о Вас УЖЕ сведений собрано, или еще нет (но будет).

Андрей. как мне кажется. пишет о том, что сейчас все эти информационные и технологические куски еще разрознены. Но если даже сейчас их собрать в одно целое, то Большой Технологический Брат о Вас все релевантное  уже знает. А теперь он еще и понимает речь, может сам ее организовывать, имеет доступ к базе данных, которая включает практически все знание. И,,,,,,,,,,,,никто об этом не думает, кроме небольшого количества людей.  например, Nick Bostrom думает. Советую прогнать статью через Гугл переврдчика, она того стоит.

Андрей здесь прав. Общество занято развелечениями вроде просмотра клоунады Трампа или Путина, спорами, кто из них прав, тратит ментальную энергию на обсуждение, правильно ли один псатель понят метафоры другого, уже покойного писателя, и, как обычно, простым выживанием. А тем временем на задворках общественного сознания, без руководства закона, без надзора зреют довольно устрашающие вещи. На них следует пристально смотреть.

Эту реплику поддерживают: Светлана Кузнецова

Алекс, я приблизительно знаю, что обо мне знает условный Скайнет :) И любой подросток об этом знает, и более того - он скорее печалится о том, что Большой Брат видит его недостаточно отчетливо и редко обращает на него внимание, чем наоборот. Он еще готов подпрыгнуть как следует, чтоб его как следует разглядели. ;) И меня иногда и вправду забавляет вполне очевидный парадокс: то, что полвека назад казалось кошмаром, сейчас - само собой с порядковым перехлестом. На мой взгляд пик индивидуации был пройден где-то в конце 19, начале 20 века, потом личности стало очень "сквознячно" и одиноко (русская литература тому блестящий свидетель) и начали опять сползаться в кучку, как крыски (видели, как они спят?;), для комфорта, делегировать то или иное туда или сюда (хоть партии, хоть скайнету, какая на фиг разница ;)) Сейчас какой-то очередной этап. К чему идет? Я, разумеется, не знаю. Но почему обязательно к плохому-то? Намедни покупаю я клубнику на улице. Подходят ко мне две женщины характерного вида и молодая радостно говорит: у меня для вас хорошая новость! - А, - отвечаю я. - Я знаю - Иисус любит меня. - А, ну тогда ладно, - несколько растерявшись, говорит та, что постарше... Может и Скайнет нас полюбит?;)

Может и Скайнет нас полюбит?

разговор у Андрея не о скайтене.

Катерина, пропустите статью через Гугл, потом и обсудим :)

Алекс, я прочитала статью и ответила Вам большим комментом, но сайт его зажевал :((( Если после работы достанет сил, попробую еще раз :)

я тоже не про скайнет ;)

Поняла, что второй раз тот текст не осилю и в очередной раз оскалила зубы в адрес увечного снобовского сайта :(

Но отвечу все равно, иначе неприлично :))

Статью прочитала с интересом, спасибо, о взглядах Бострома что-то знала, о его личности - ничего, узнала с любопытством и сочувствием, но в общем-то без удивления - жуткий страх личной смерти, конечно, перенос вовне, попытка работы с происходящим очень сильных мозгов, сразу напрашиваются с десяток исторических параллелей (где что-то знаю о личностях авторов концептов) - я именно об этом выше и писала, еще ничего о Бостроме не зная, и вообще без ассоциации к его фигуре.

Да, человечество в его нынешнем виде конечно, как и все существующее. Да, либо отэволюционируем во что-то другое, либо сдохнем. И что? То есть, Алекс, поймите, я, конечно, совершенно не против если помимо борьбы с загрязнением окружающей среды, развитием медицины, наблюдением за астероидами, развитием космических программ, попытками разрешения политических и военных кризисов и прочим кто-то еще будет сидеть и бдить за развитием искусственных интеллектов или даже пугать ими обывателя и иметь с этого копеечку - почему нет, никакого особого вреда я с этого не вижу. И некий процент того, что сдохнем мы именно от рук чего-то электронного, нами же и созданного, я тоже допускаю. Для меня есть еще вот какой момент: в рамках своего личного мировоззрения я полагаю иронию и самоиронию неизбежной принадежностью высокоразвитого интеллекта (любого - в том числе Бога, если он вдруг есть, или ИИ). Поэтому мне кажется, что и с Супермозгом мы как-нибудь... ну, посмеемся вместе, что ли...

А в машинном переводе статьи мне больше всего понравился вот этот кусочек:

     "Институт делит помещение с Центром эффективного альтруизма, и обе организации пересекаются с общественным движением, что способствует чистой рациональности как руководство к моральным действиям." И в общем-то я конечно желаю успеха обеим организациям :)) 

Эту реплику поддерживают: Алекс Лосетт, Айрат Бикташев

я полагаю иронию и самоиронию неизбежной принадежностью высокоразвитого интеллекта (любого - в том числе Бога, если он вдруг есть................ мне кажется, что и с Супермозгом мы как-нибудь... ну,

Дорогая Катерина!

Вашу позицию я даже могла предугадать :) Все, что Вы пишите, имеет место быть :) Хочу внести только несколько дополнений.

Насчет самоиронии. Можно решить, что самоирония - свойство высокоразвитого интеллекта. Можно также предположить, что это просто свойство интеллекта некотого уровня (который только НАМ кажется высоким) А то, что будет происходить на значтельно более высоком уровне, нам "понять" дано также, как горила может "понять" скрипичный квартет или сонеты Шекспира. :) (Поэтому лично я никогда не испытывала интереса к слишком "высоким" темам. Никогда не хотелось уподобиться умной рыбе, рассуждающей о (не)возможности птичьего пения:))

Так что я далеко не уверена, что интеллект ЗНАЧИТЕЛЬНО превосходящий человеческий, будет развлекаться самоиронией или смеяться с нами. Как я не уверена, что мы можем быть ему интересны. Муравьи и пчелы интересны только тем, кто получает денежку от их изучения. Это просто такой смешной способ заработать :))

Мои же мотивы отнюдь не в страхе смерти. Меня завораживает наше человеческое брауновское движение, в котором мы, даже в наиважнейших делах, руководствуемся не лучшими сторонами своей противоречивой психики.  Да, у нас слабенькие инструменты, но в каждый данный момент мы способны делать выбор, встать ли на самую низкую присущую нам позицию, среднюю или самую высокую, доступную нам. И редко мы встаем на самую высокую :((

Взять, например, активные дискуссии о "Западе" прямо сейчас на Снобе. Как проживающая на "западе", дам голову на отсечение, что нет никакой особой сознательной политики "запада" по отношению к России. Есть интересы Пентагона раздувать свой бюджет и интересы военных компаний получать больше заказов. Есть интересы ЦРУ и нац. безопасности, примерно в том же. Есть интересы членов Конгресса удержаться на своих местах во что бы то ни стало. Есть уже заскрученная история про Россию, примерно такая же простенькая, как русская "история про Америку и Пентагон". Есть совсем слабенькие мозги избирателя-обывателя, которые реагируют на внушенные нам мифы. И вот вся эта совокупность + еще множество факторов производят т.н. "политику по отношению к России".

Тем же способом производится внутренняя политика, образовательная политика, природоохранительная политика и политика по отношению к созданию искусственного интеллекта. Точнее сказать, по отношению к последнему политики не существует, потому что никто не обращает внимание. А надо бы. Дело слишком серьезное, на уровне атомной бомбы, и хорошо чтобы им занялись хорошие умы и привнесли бы этот разговор в широчайшее общественное сознание. Мне кажется, Андрей именно этим занимается. :))

С его позицией я могу быть и не  согласна или не полность согласна, но эта тема, как и тема повсеместной слежки и сбоора данных. куда более важная, чем многие другие, активно муссируемые по тем самым причинам, которые я наверху описала. А зря :(((((((

Эту реплику поддерживают: Катерина Мурашова

Алекс, а вот на самом деле, проблема, связанная с искусственным интеллектом и лежащая в экономической плоскости, не должна нас сейчас больше заботить? Кто будет владеть роботами? Кто будет покупать продукцию, ими сделанную? Капиталистическая модель ведь на этом самом месте и рухнет...?

Никуда она не рухнет. Прибыль от "роботов" будет принадлежать "хозяевам жизни", как она им принадлежит сейчас. :((((((((

Но думать в деталях о будущем - неблагодарное занятие. А  в общих чертах - можно.

Но кто будет покупать? Если для людей больше не найдется занятия, как мы будем зарабатывать деньги ?

Если для людей больше не найдется занятия, как мы будем зарабатывать деньги ?

Юлия, я ж всего лишь мелкий обыватель, откуда ж мне знать :))??

Исторически, имели однажды "хеба и зрелищ", почему б не опять? О "хлебе" недавно писали на Снобе. Щвейцария об этом думала, Финляндия взвешивает. У зрелищах побеспокоились ФБ и производители компьютерных игр. 

Адрей об этом, собственно, и пишет.

Муравьи и пчелы интересны только тем, кто получает денежку от их изучения. Это просто такой смешной способ заработать :))

Не, Алекс. ;) Они сами по себе интересны, я лично провела наверное недели, если не месяцы чистого времени, сидя у муравейника. А если поговорить с пасечниками, они тоже много интересного расскажут, и не только про деньги.

Мне, пожалуй, более смешным (хотя и намного более верным и прибыльным, конечно) кажется способ заработать деньги, пугая людей тем или иным концом света ;)) И оно именно потому и прибыльное, что тема давно (тысячи три-четыре лет точно) и прочно УЖЕ находится "в широчайшем общественном сознании" (если не верите, посмотрите наверх на количество кликов на пост ;)).

Про отсуствие стопроцентно сознательной политики по любому поводу - тут я, как старый социал-дарвинист, с Вами, разумеется, полностью согласна :))

Как устроен бесконечно превосходящий и далекий разум (ежели таковой вдруг где-то есть или на каком-то этапе образуется), я конечно знать не могу, да, если честно, не очень и интересно. Интересно что-то все же хоть чуть-чуть понятное и хоть краешком умопостигаемое. И сравнение с гориллой не канает, потому что мы уже довольно много знаем о том, как мыслят высшие приматы, да и они о нас, уверена, немало знают (фотка моя)... Если контакт с ИИ будет на этом уровне, я согласна... ;)

ПС

Ччерт, Вы можете как-то "понять" скрипичный квартет? Я тут явно скорее ближе к горилле... ;))))

Эту реплику поддерживают: Алекс Лосетт

Вы можете как-то "понять" скрипичный квартет?

 скрипичный квартет, как и Мадонну Бенуа, можно "понимать" двумя местами. Можно "понимать", ничего не понимая, а просто получать наслаждение. Я, например, наслаждаюсь итальянскими операми, не понимая языка и не интересуясь сюжетом :)) Не знаю, доступно ли такое "понимание" горилле. Я думаю, что все-таки нет, хотя настаивать не буду :)))))) Второй способ это уже действительно понять. уже без кавычек, как понимают профессионалы, которые этот самый квартет исполняют на высоком уровне, или слушающие профессионалы. Такое понимание горилле точно недоступно, как и мне. Но я могу понять Мадонну Бенуа. :))))))))

Эту реплику поддерживают: Катерина Мурашова

Алекс, расскажите, а "разобрав" Мадонну Бенуа (наверное, еще и ознакомившись с предыдущим разборрм профессионалов тоже, особенно если ты еще студент и учишься), вы потом получаете больше наслаждения от картины или уже несколько сложнее увидеть что-то свое? Что вы вкладываете в понимание картины? 

Юлия, когда-то меня  учили фортепиано, но я мало что помню :( Потом мой сын учился фортепиано, и тут удалось запомнить больше :) Даже на его детском уровне педагог "разбирала" произведение, которое он должен был учить.

В изобразительном искусстве когда-то ученики учились, копируя мастера. Это почти равнозначно исполнению музыкального произведения. Потом копировать стали все меньше, потом бросили совсем. Тем не менее можно подойти к картине и "прогнать" ее через свое сознание на предмет, "как это делалось", если имеешь собственный серьезный опыт в живописи.  Или к скульптуре, если имеешь в ней свой серьезный опыт. Это далеко не так точно, как внимательное и знающее профессиональное копирование, это больше как "прочтение текста".

Я кстати, слушала интервью с каким-то американским писателем, который научил себя писать, не то переписывая. не то серьено разбирая произведения известных писателей.

Когда включается аналитическая машина, она дополняет ту часть, которая получает удовольствие. Становится ли удовольствия больше ??...Хм............оно становится шире, наверное, глубже. Не знаю, больше ли.

Эту реплику поддерживают: Юлия Панченко

Катерина Вадимовна, а расскажите, что происходит на фотографии?

Да ничего особенного не происходит ;) - сидит обезьян на берегу Ганги, думает о чем-то своем... Они вполне удачно вписались в ландшафт, созданный последующим (эволюционно) видом. Фотка ниже тоже моя, конечно :)

Вот прекрасное 15-ти минутное видео в тему Humans Need Not Apply

Хотя это даже скорее к первой главе про четвертую мировую, но так или иначе нам этого с головой хватит.

Согласна с Ксенией. Но я бы, пожалуй, вот так спросила: почему искусственный интеллект (думающий самостоятельно) будет источать именно агрессию? Получается, что мы о нем судим опять же очень по-человечески. Или как Андре​й пишет "Наше воображение все лепит по своему образу и подобию. Нам просто недостает фантазии, а точнее, ума".

А может, ему приятнее будет умиляться нами?

Эту реплику поддерживают: Катерина Мурашова

Или убьет нас случайно... запуская какие-то свои программы. Как вы чудесно ответили про перенос страха собственной смерти! Это же так логично сразу предположить, но я не сообразила

Эту реплику поддерживают: Катерина Мурашова

Насчет случайности и закономерности - тут такой темный вопрос, что я даже соваться туда боюсь :))

Эту реплику поддерживают: Юлия Панченко

 

Новости наших партнеров