Начать блог на снобе
Все новости

big.jpg

Татьяна Черниговская

Восстание машин уже случилось. Но мы этого не заметили

Редакционный материал

Сооснователь международного интернет-холдинга Social Discovery Ventures Дмитрий Волков утверждает, что дальнейшее развитие искусственного интеллекта может быть опасным для человечества. В продолжение дискуссии нейролингвист и экспериментальный психолог Татьяна Черниговская объясняет, что причины для таких страхов есть — но совсем не те, о которых мы думаем

3 апреля 2018 14:02

Если говорить об условном «восстании машин», то оно уже случилось. Мы сейчас находимся в сильной зависимости от гаджетов, сетей, виртуальной жизни. Уже поздно, думать нужно было раньше. Теперь мы выбираем между прозрачностью и безопасностью.

Нужно договориться, что мы имеем в виду под «искусственным интеллектом». То, что мы сейчас под этим понимаем — не более чем сложные программы. В них никакого интеллекта нет. Если ваша кофеварка будет знать ваши вкусы, это не сделает ее интеллектуальной. В настоящем смысле слова искусственный интеллект пока не создан.

Но теоретически это может случиться. Вопрос в том, узнаем ли мы, что это уже произошло? Как мы поймем, что компьютерная программа обладает настоящим интеллектом и способностью к рефлексии? Что у нее появились свои планы и цели? Как догадаемся, что машина, с которой имеем дело, — уже не просто классная машина? Что у нее есть цели и планы, в которые мы с вами, кстати, не входим. Мы можем стереть программу или выключить устройство, а значит, представляем угрозу. И логично, что выключить теперь нужно нас.

Иллюстрация: Pxhere

Пока что нет критериев, чтобы понять, когда у машины появился такой интеллект. Если серьезно, то, говоря об искусственном интеллекте, мы имеем в виду наличие сознания у машин. Но есть ли основания полагать, что мы обладаем сознанием и свободой воли? Почему мы уверены, что у нас самих есть сознание? Возможно, мы просто очень сложная программа. Есть ли сознание у собаки? У рыбы? У комара? Даже если мы сделаем энцефалограмму коту или собаке, мы получим картину сложного мозга, но не более того. Догадаться о наличии сознания можно только по поведению. А у машины оно будет как у нас. И описанная выше ситуация реальна.

Во время поездки к Далай-ламе я задавала ему эти вопросы. У комара сознание есть? Ответ — есть. А у нейрона? Это ведь живая мощная «когнитивная» клетка. Буддийская философия считает сознание основополагающим свойством Вселенной, а значит, оно есть и у нейрона.

Мы еще никогда не оказывались в настолько опасной ситуации. Вопросы, обсуждение которых раньше было уделом группы философов, теперь стали вызовом для всего общества. Все сложнее, чем представляется Дмитрию Волкову; мы не просто на пороге создания сверхразума — это настоящий цивилизационный вызов.

Мы можем стереть программу или выключить устройство, а значит, представляем угрозу. И логично, что выключить нужно нас

Если самостоятельный сверхразум появится, то он станет субъектом права. Если вы вынете и сотрете флешку, на которой этот сверхразум был записан, — это будет убийство. У вас просто не останется возможности стереть эту угрожающую программу. Искусственный интеллект не нервничает, у него бесконечная память и он может питаться, например, солнечной энергией. И ему всего-то и нужно, чтобы люди не мешали.

Пока такого интеллекта нет, но это вопрос завтрашнего дня. Жизнь на планете станет совсем другой. Мы не сможем соревноваться в скоростях с искусственным разумом. Получается, все — человечеству конец? Нет, еще ничего не закончено. Во-первых, ничего из перечисленного выше еще не произошло. Во-вторых, у людей есть навыки и умения, которых у компьютеров нет. Например, все, что связано с искусством — я не о копировании, а о созидании.

Нынешние компьютеры умеют лучше нас все, что связано, условно говоря, со счетом и комбинаторикой. Но они тоже развиваются. Если программы уже выигрывают в покер, не говоря о шахматах и го, значит они стремительно обучаются тем вещам, которые мы раньше считали недоступными для машин. И значит мы, люди, уже понемногу сдаем позиции.

Поддержать лого сноб
0 комментариев
Хотите это обсудить?
Войти Зарегистрироваться

Читайте также

Илья Мильштейн на примере Алексея Малобродского размышляет о важности локальных побед в борьбе с тюремным режимом
Философ, сооснователь международного интернет-холдинга Social Discovery Ventures рассказывает о том, почему нам нужно бояться искусственного интеллекта, и начинает дискуссию
Руководитель проекта «Полка» Юрий Сапрыкин и основатель digital-агентства SKCG Сергей Кузнецов поговорили со «Снобом» о том, почему телевизионная реклама все еще жива, какие ценности транслирует лоукостер «Победа» и как Nike изменил Россию

«Мнения» на «Снобе»

Ежемесячно «Сноб» читают три миллиона человек. Мы убеждены: многие из наших читателей обладают уникальными знаниями и готовы поделиться необычным взглядом на мир. Поэтому мы открыли раздел «Мнения». В нем мы публикуем не только материалы наших постоянных авторов и участников проекта, но и тексты наших читателей.
Присылайте их на opinion@snob.ru.