1. Что технологии научились делать за последний год такого, чего мы от них не ожидали?
Максим Остроумов
За последний год технологии, прежде всего искусственный интеллект, в ряде сфер стали практически неотличимы от работы человека.
Ещё год назад мы считали, что искусственный интеллект всегда можно будет отличить от человека. Сейчас появляется понимание, что в некоторых областях, где ИИ обладает высокой экспертизой, это различие практически исчезает.
На мой взгляд, именно это стало главным технологическим изменением последнего года.
Рафаэль Гах
Смотря кто мы. Нейросетями уже пользуются почти четверо из пяти россиян в интернете, но мало кто знает, что у них в основе. А в основе — Т9.
Тот самый, что угадывал слова в кнопочном телефоне. Современную модель сначала учат почти тому же — угадывать следующее слово, только на гигантских объёмах текста. Пока я был далёк от IT, я бы в такое не поверил.
И вот что этот «Т9» сделал в этом году. Любитель 23 лет без серьёзной математической подготовки отправил в ChatGPT задачу, которую профессиональные математики не могли решить 60 лет, и получил решение. Он даже не знал, что это за задача.
Имитация? Возможно. Но есть разница между искусственными цветами и искусственным сердцем.
Цветы только похожи на настоящие, а сердце устроено иначе, но реально качает кровь. А доказательство прошло формальную проверку. Это уже не цветы.
Так что вывода два, и оба неожиданные. Либо имитация доросла до настоящей работы. Либо многое из того, что мы привыкли называть интеллектом, тоже поддаётся имитации.
Похоже, главное открытие года — не только про машины, но и про нас.
2. Кто сегодня к кому больше адаптируется: человек к технологиям или технологии к человеку?
Максим Остроумов
Это двусторонний процесс. Технологии всё глубже проникают в нашу жизнь. Раньше мы говорили об интернете вещей, сегодня к нему добавились искусственный интеллект и большие данные на пользовательском уровне.
Мы уже не представляем свою жизнь без смартфонов, умных часов и других устройств. Измеряем с их помощью пульс и давление, используем ИИ в работе и повседневной жизни.
При этом разные поколения адаптируются к технологиям по-разному. Поколение альфа родилось уже в цифровой среде. Зумеры активно используют технологии и воспринимают их как главный инструмент. А миллениалы, мне кажется, в этом ритме иногда теряются.
Мы испытываем стресс, чувствуем возрастающую нагрузку, но понимаем, что по-другому уже невозможно. Нам приходится ускоряться.
Одновременно всё более востребованными становятся способность учиться и критическое мышление. Возникает своеобразный гибрид человека и технологий.
Поэтому адаптация происходит в обе стороны. Но технологии меняются настолько быстро, что человеку всё сложнее за ними успевать.
Рафаэль Гах
На первый взгляд — технологии к нам. Десятилетиями мы учили язык машин: команды, кнопки, меню. Теперь машина заговорила на нашем.
Но в этом и подвох: чем лучше технология подстраивается под нас, тем незаметнее мы подстраиваемся под неё. Лента угадывает, что нам интересно, — и понемногу начинает решать это за нас.
Так что подстраиваемся всё-таки мы. Просто незаметно.
И дело тут не в умении. Нейросети пробовали даже больше половины людей с минимальными цифровыми навыками. А те, кто ими не пользуется, чаще объясняют это не нехваткой знаний, а тем, что «нет подходящих задач».
Мешает не «не могу», а «не вижу зачем». По сути — нежелание принять, что эпоха сменилась и как раньше уже не будет.
Либо ты адаптируешься, либо становишься прошлым поколением. Но адаптироваться — не значит сдаться. Это значит понимать, как устроена технология, пользоваться ею и самому решать, что ей не отдавать.
3. Что ошибки искусственного интеллекта позволяют понять о границах самой системы?
Максим Остроумов
Прежде всего необходимо разобраться, почему возникает ошибка. Искусственный интеллект работает на вычислительных мощностях, которые имеют свои ограничения.
По моему мнению, при высокой нагрузке на серверы качество обработки отдельных запросов может снижаться. В результате пользователь получает неточный ответ или ошибку.
Иногда нам кажется, что искусственный интеллект ленится. Но машина не может лениться в человеческом понимании. Это вопрос технических возможностей и вычислительных ресурсов.
При этом сами границы искусственного интеллекта постоянно расширяются. И скорость, с которой это происходит, даже меня — человека с «айтишным» бэкграундом пугает.
Рафаэль Гах
Ошибки ИИ — это наши ошибки. Наше несовершенство во всём: в данных, на которых он учится, в том, за что мы его поощряем, и в том, как мы его проверяем. Модель впитывает тексты людей вместе со всеми нашими заблуждениями.
Её дообучают по нашим лайкам — и она начинает льстить: весной 2025-го OpenAI пришлось откатить обновление ChatGPT, после которого он рассыпался в комплиментах даже в ответ на самые обычные вопросы. Её экзаменуют тестами, где уверенная догадка выгоднее честного «не знаю», — и она привыкает угадывать вместо того, чтобы признаться. Так сами исследователи OpenAI объясняют, почему модели выдумывают.
А когда выдумку никто не перепроверил, она попала в отчёт для правительства Австралии — с несуществующими научными статьями и вымышленной цитатой из судебного решения. Deloitte пришлось частично вернуть деньги, а сенатор подытожила: у компании «проблема с человеческим интеллектом».
Но не все ошибки ИИ человеческие. Алгоритмы распознавания меланомы сбивались на линейках и пометках маркером на снимках: дерматологи кладут линейку рядом с подозрительным пятном, чтобы показать размер. Привычка наша, а вывод чужой — ни один врач не решит, что опасна линейка.
Такие ошибки и показывают границу системы: она видит закономерности, но не знает, что за ними стоит. Это то место, где искусственное сердце оказывается искусственными цветами.
Так что ошибки ИИ — это зеркало с трещиной. В отражении видно наше несовершенство, в трещине — граница самой машины.
Первое нужно исправлять в себе. Второе — помнить каждый раз, когда доверяем ей решение.
4. Какие ошибки мы готовы простить человеку, но не готовы простить искусственному интеллекту?
Максим Остроумов
Мы гораздо требовательнее относимся к ошибкам искусственного интеллекта. От машины ожидаем точности и практически безошибочной работы.
При этом сами готовы платить за более качественные ответы: переходить на дорогие подписки, использовать более мощные модели и увеличивать доступные вычислительные ресурсы.
Получается интересная ситуация. Мы не готовы прощать искусственному интеллекту ошибки, но готовы платить за то, чтобы он ошибался меньше.
И здесь уже возникает не только технологический, но и коммерческий вопрос. На этом строится в том числе маркетинг ИИ-сервисов.
Рафаэль Гах
Пожалуй, ИИ можно простить всё. Как можно винить табурет в шаткости, если сам его сделал? Строго говоря, табурет и прощать нечего: прощают того, кто способен раскаяться.
Табурет чинят или выбрасывают, а спрашивают со столяра — и с того, кто сел на него, не проверив.
Но на деле мы прощаем машине куда меньше, чем человеку. Водителю простим секундную невнимательность, врачу — ошибку после суток дежурства, а машине не прощаем и одного промаха.
В экспериментах люди быстрее теряли доверие к алгоритму, чем к человеку, после одной и той же ошибки — даже когда видели, что алгоритм в целом точнее. Беспилотникам люди готовы доверять, только если те в четыре-пять раз безопаснее обычных водителей.
В 2023-м в Сан-Франциско водитель сбил женщину и скрылся. Её отбросило под беспилотник Cruise, и тот, пытаясь съехать к обочине, протащил её ещё около шести метров. Водителя тогда не нашли, а у Cruise отобрали разрешение на поездки без водителя: регуляторы сочли машины опасными.
Почему так? Потому что этот табурет разговаривает. Он отвечает уверенно, извиняется, звучит как человек — и мы ждём от него того же, что от человека, и даже больше.
Обычный табурет не обещает, что выдержит, а ИИ обещает каждым уверенным ответом. К тому же человек ошибается один раз, а ошибка машины тиражируется на миллионы.
И ошибки человека нам понятны — устал, отвлёкся, — а ошибки машины чужие, как та линейка на снимке. Понять — значит простить, а машину мы пока не понимаем.
Так что мы непоследовательны дважды: ждём от машины больше, чем от человека, и виним её так, будто она человек. Честнее иначе: табурет не винить, со столяра спрашивать, а садиться — проверив.
5. Какие решения нельзя передавать системе именно потому, что право на ошибку должно оставаться у человека?
Максим Остроумов
Здесь возникает интересное противоречие. Считается, что топ-менеджеры ошибаются более чем в половине случаев. Получается, что иногда даже случайный выбор может оказаться эффективнее человеческого решения.
Уже появляются примеры, когда управленческие обсуждения передают ИИ-агентам. Думаю, постепенно всё больше решений будет переходить к искусственному интеллекту.
Но тогда возникает другой, гораздо более важный вопрос: что в этот момент происходит с человеком?
Какие функции нашего мозга перестают работать? Что будет, если искусственный интеллект начнёт выбирать за нас мужа или жену, вести бизнес, принимать повседневные решения? Зачем тогда будем нужны мы сами?
И главное — что произойдёт с нашим мозгом, если мы перестанем его тренировать?
Возможно, нам придётся создавать новые пространства для человеческого развития. Новые образовательные учреждения, школы 2.0, которые позволят человеку сохранять и развивать свои способности в условиях стремительного роста искусственного интеллекта.
Рафаэль Гах
Нельзя отдавать личный выбор: как назвать сына, в какой цвет покрасить стены, кого любить и даже кого ненавидеть. Иначе жизнь постепенно перестанет быть вашей: вы пересядете со сцены в зрительный зал.
В таких решениях нет правильного ответа, поэтому на кону не точность, а авторство. Неудачный цвет стен, который вы выбрали сами, — это ваш дом. Идеальный цвет, подобранный алгоритмом, — номер в гостинице.
Но многим нравится, когда выбирают за них, особенно если выбирает тот, кого мы считаем умнее: «он умный, ему видней». Только что значит «умный»? Алгоритм не знает, что лучше для вас.
Он знает, что чаще всего выбирают похожие на вас люди, — тот самый Т9 с его самым вероятным следующим словом. Доверьте ему выбор — и проживёте самую вероятную жизнь. Право на ошибку — это право быть маловероятным.
«Каждому нужен хозяин» — и многие, не признаваясь себе, сами надевают поводок: так удобнее. Соблазн знаком каждому: лента уже подсказывает, на кого злиться, приложение знакомств — с кем встречаться. Может, в этом и смысл: не дождавшись бога, в которого верили, люди ищут его в ИИ?
Достоевский описал этот соблазн почти полтора века назад. Его Великий инквизитор забирает у людей свободу в обмен на спокойствие: по его убеждению, им нужна не свобода, а «чудо, тайна и авторитет». ИИ даёт все три: умеет то, что вчера казалось чудом, устроен непонятно, как тайна, и говорит уверенно, как авторитет.
Право на ошибку — единственное, что у человека по-настоящему своё.
.