Издательство: «Альпина Паблишер»

Тёплым ноябрьским вечером 2023 года знаменитый венчурный инвестор Питер Тиль устроил праздничный ужин в честь дня рождения Мэтта Данзайзена. Гости собрались в авангардном японском ресторане YESS, разместившемся в историческом здании банка начала XX века в Арт-квартале Лос-Анджелеса. В просторном зале, напоминавшем древний храм, рядом с Тилем сидел его друг Сэм Альтман. Тиль вложился в первый венчурный фонд Альтмана более 10 лет назад и с тех пор оставался наставником молодого инвестора, ставшего генеральным директором OpenAI и лицом революции в области искусственного интеллекта. Запущенный годом ранее ChatGPT не только вывел акции высокотехнологичных компаний из затяжного пике, но и обеспечил им один из самых успешных периодов за последние десятилетия. И тем не менее Тиль был встревожен.

Задолго до знакомства с Альтманом Тиль взял под крыло другого юного гения, одержимого искусственным интеллектом, — Элиезера Юдковского. Тиль финансировал его исследовательский институт, работавший над тем, чтобы сделать ИИ дружественным к людям прежде, чем тот создаст искусственный разум, превосходящий человеческий. Но, по мнению Тиля, Юдковский превратился в «законченного пессимиста и технофоба», сведя все свои мрачные прогнозы к простой формуле: «Единственное, что нам остаётся, — ездить на фестиваль Burning Man, ожидая, когда искусственный интеллект явится нас убить». В марте Юдковский опубликовал колонку в Time, где утверждал, что, если не остановить нынешние исследования в области генеративного ИИ, «всё население Земли будет в буквальном смысле обречено на гибель».

«Ты даже не представляешь, до какой степени Элиезер промыл мозги половине твоих сотрудников, — предостерёг Тиль Альтмана. — Тебе стоит отнестись к этому серьёзнее».

Альтман рассеянно ковырял своё вегетарианское блюдо, сдерживая желание закатить глаза. Не в первый раз за ужином Тиль предупреждал его о том, что компанию захватили «эффективные альтруисты» — последователи философского течения, родственного утилитаризму. В последнее время эти ребята переключились с борьбы против глобальной нищеты на предотвращение геноцида человечества взбесившимся ИИ. Тиль не уставал повторять, что «борцы за безопасный ИИ» погубят OpenAI. Он поддерживал компанию с первого дня — сначала субсидировав её из личных средств в 2015 году, когда она была крошечной некоммерческой лабораторией, а затем, в начале 2023 года, через свой Founders Fund, после того как OpenAI обзавелась коммерческой дочерней компанией для привлечения миллиардных инвестиций от Microsoft и других организаций. Впрочем, Тиль славился своими апокалиптическими прогнозами — как шутили в Кремниевой долине, он верно предсказал 17 из последних двух финансовых кризисов.

«Ну, отчасти так было с Илоном, но мы от него избавились», — ответил Альтман, намекая на неприятное расставание в 2018 году с сооснователем компании Илоном Маском, который как-то сказал, что, создавая искусственный интеллект, мы «призываем демона». «Потом была история с Anthropic, — продолжил он, имея в виду более десятка сотрудников OpenAI, которые в конце 2020 года, разочаровавшись в Альтмане, ушли создавать собственную конкурирующую лабораторию. — Но и с этим мы разобрались». Теперь в компании работало более 700 человек, и они, как на ракете, неслись вверх, навстречу возможности прикупить себе домик на побережье — в ближайшее время готовилось предложение по выкупу акций у сотрудников, по которому OpenAI оценивалась более чем в 80 миллиардов долларов. Паниковать не было причин.

Альтман давно превратил оптимизм в свою фирменную черту. Впрочем, на его месте кто угодно испытывал бы такое же воодушевление. Похожий на эльфа 38-летний руководитель завершал лучший в своей блестящей карьере год — год, когда его имя гремело повсюду, сенаторы ловили каждое его слово, а сам он встречался с президентами и премьер-министрами по всему миру. И — что в Кремниевой долине ценится превыше всего — создал технологию, которая, похоже, действительно могла изменить всё.

В ноябре 2022 года OpenAI запустила ChatGPT — чат-бота с пугающе человекоподобным интеллектом (название расшифровывается как generative pre-trained transformer — «генеративный предварительно обученный трансформер»), который мгновенно стал хитом: сервис привлёк 100 миллионов пользователей менее чем за квартал, побив все рекорды скорости роста. А спустя всего несколько месяцев OpenAI представила ещё более мощную версию — GPT-4, способную сдать квалификационный экзамен на адвоката и получить высший балл на сложнейшем тесте по биологии. Столь умопомрачительная динамика наводила на мысль, что амбициозная цель компании по безопасному созданию первого в мире общего искусственного интеллекта (AGI) может быть вполне достижима.

Даже самые убеждённые скептики — включая профессора информатики из Стэнфорда, который в разговоре со мной пренебрежительно назвал первую версию ChatGPT дрессированной собачкой, — начали смягчать свою позицию. В течение нескольких месяцев, когда американские компании спешно создавали рабочие группы по ИИ, пытаясь оценить потенциальный рост производительности, мы словно шагнули в научно-фантастический рассказ, автором которого был Альтман.

Сам Альтман код не писал. Он был провидцем, вдохновителем новых идей и мастером заключать сделки. Его уникальный дар, отточенный годами консультирования, а затем руководства престижным стартап-акселератором Y Combinator, заключался в умении взяться за практически неосуществимую идею, заразить других верой в возможность успеха, а затем привлечь столько денег, что эта идея становилась осуществимой. «Он единственный среди всех моих знакомых, кто берётся исключительно за проекты, способные перевернуть мир, даже если шансы на успех — всего 1 %», — говорил Али Рогани, управлявший инвестициями в Y Combinator, когда Альтман был президентом компании.

Пожалуй, никто лучше Альтмана не воплощал главный принцип Кремниевой долины — «добавь ноль справа». Этот образ мышления он перенял у своего наставника Пола Грэма — блестящего программиста, предпринимателя и эссеиста, одного из сооснователей Y Combinator. Грэм почти всегда помогал стартапам отказаться от мелочного мышления и задуматься, как вывести бизнес-модель на более высокий уровень — чтобы в прогнозах выручки строчка «миллионы» превратилась в «миллиарды». В 2019 году, встав у руля OpenAI, Альтман изложил в блоге свою философию успеха: «Полезно стремиться добавить ещё один ноль справа к любому показателю своих достижений — будь то деньги, статус, влияние на мир или что угодно ещё».

Тиль признавался: Альтман привлёк его тем, что, как никто другой, воплощал дух Кремниевой долины той эпохи — миллениал 1985 года рождения, попавший в мир технологий в золотой момент между крахом доткомов и финансовым кризисом, когда вера в стартапы возродилась, но технологическая сфера ещё не скатилась в то, что Тиль язвительно называл заезженной колеёй. В середине 2010-х, когда всё громче звучали разговоры о технологическом пузыре, Тиль подавил сомнения, доверившись инвестиционному чутью Альтмана, — и не прогадал. «Сэм был неисправимым оптимистом — качество, необходимое для инвестирования в эти компании, ведь все они казались переоценёнными», — говорил он. Как выяснилось, у «единорогов», взращённых в Y Combinator, таких как Stripe и Airbnb, ещё оставался колоссальный потенциал для роста. На протяжении почти всей взрослой жизни Альтмана, если не считать короткой паузы после финансового кризиса 2008 года и начавшейся в 2020 году пандемии, технологические рынки знали только один путь — вверх.

Но на этот раз мрачные предчувствия Тиля оказались пророческими. Пока два инвестиционных партнёра поднимали бокалы в самом модном новом ресторане Лос-Анджелеса, четверо из шести членов совета директоров OpenAI, в их числе двое, напрямую связанных с движением эффективных альтруистов, тайно обсуждали по видеосвязи увольнение Альтмана. И хотя сам Юдковский не имел к этому отношения, его влиятельный блог LessWrong сыграл ключевую роль в том, что страх перед экзистенциальной угрозой со стороны ИИ стал центральной темой движения эффективных альтруистов.