Ум, честь и совесть ИИ

Кайся, код мой, брат мой

В декабре 2025 года OpenAI представила экспериментальный метод confessions — «исповедей». После основного ответа у модели можно запросить отдельный отчёт о том, нарушила ли она инструкции или прибегла к нежелательным способам решения задачи.

В экспериментах с версией GPT-5 Thinking доля ложноотрицательных случаев составила 4,4%. В этих случаях модель нарушила инструкцию, но не призналась.

Модель способна описать собственное нарушение, но конечно, не переживает из-за вины. 

Публичное искусство убеждать

1 июля 2026 года журнал PLOS One опубликовал результаты исследования. Учёные использовали GPT-4 Turbo, чтобы сгенерировать ответы от имени 112 публичных фигур на вопросы из 30 выпусков программы BBC Question Time. Репрезентативную выборку из 948 жителей Великобритании попросили оценить реальные и сгенерированные ответы. Участники сочли машинные версии более аутентичными, релевантными и связными.

В этом эксперименте машина создала двойника публичной личности, который говорит увереннее и логичнее оригинала, и, возможно не лишен обаяния.

Нравственный закон в коде моем 

22 января 2026 года Anthropic опубликовала новую конституцию для модели Claude. Этот документ описывает ценности, поведение и «тип сущности», к которому должна стремиться модель.

Claude предписано учитывать четыре набора ценностей: безопасность, этичность, руководящие принципы Anthropic и реальную полезность для операторов и пользователей. При этом Anthropic подчёркивает, что речь идёт не о жёсткой иерархии. Модель должна целостно взвешивать эти требования при возникновении конфликта.

В России эта логика выходит за рамки внутренних документов компаний. 25 июня 2026 года правительство внесло в Госдуму законопроект  «О поддержке развития технологий искусственного интеллекта в Российской Федерации». Документ находится на рассмотрении.

Законопроект вводит понятия суверенной модели ИИ, которая должна учитывать традиционные российские духовно-нравственные ценности.

Нравственный закон оказывается не внутри машины. Он находится внутри системы людей и институтов, которые получают право говорить от её имени.

Без границ, но с правами доступа

Большая языковая модель существует сразу во множестве юрисдикций. Её ответы пересекают государственные, культурные и корпоративные границы почти мгновенно. Но универсальность интерфейса не означает равенства доступа.

Российский законопроект об ИИ вводит категории суверенных и национальных больших фундаментальных моделей. Правительство сможет устанавливать случаи, когда разрешено применять только системы с таким статусом.

Граница проходит уже не по территории. Она встраивается в архитектуру разрешений. Одним моделям предоставляют доступ к государственным данным, инфраструктуре и критическим процессам. Другие остаются за пределами контура.

ИИ обещает единое пространство знания. На практике он создаёт карту допусков, где каждый ответ зависит от юрисдикции, статуса модели и того, кто контролирует вход.

Чувство прекрасного без чувств

22 июня 2026 года Google DeepMind и A24 объявили о партнёрстве — эта новость встревожила многих киноманов. Платформа получит возможность обучать модели на редких образцах кинематографической культуры. Цель Google DeepMind — занять место среди тех, кто будет формировать вкусы завтрашнего дня.  Партнерство помогает Google DeepMind укрепить позиционирование компании по созданию интеллектуальных моделей, натренированных на лучших образцах кино. 

Art Basel с инициативой Zero 10 интегрирует цифровое и алгоритмическое искусство в выставочную и коллекционерскую инфраструктуру. Программа включает практики, связанные с генеративными системами, ИИ и другими формами цифровой культуры. Цифровые проекты получают статус и визуальную легитимность.

Служить бы рад. Прислуживаться запрограммирован

22 мая 2026 года Сбер представил «Маркуса» — мультиагентного помощника департамента маркетинга и коммуникаций. Компания описывает его не как чат-бота, а как AI-сотрудника. У него есть собственная роль, память и KPI.

Представленная 4 июня платформа GigaNetwork развивает эту модель дальше. ИИ-агент становится цифровым представителем компании. Он ищет контрагента, проверяет его, согласовывает условия и сопровождает сделку.

Организация выделяет агенту очерченную территорию действия. Человек выходит из операционного контура и выполняет функцию контроля.

Лог — вот и все мои документы

10 июня 2026 года Госдума отклонила законопроект об обязательной маркировке контента, созданного с помощью ИИ. Все 97 депутатов, участвовавших в голосовании, выступили против.

Через две недели правительство внесло другой законопроект. Он предлагает пользователям добровольно помечать аудио- и визуальные материалы, созданные с помощью больших фундаментальных моделей. ИИ-сервисы и социальные сети должны предоставить техническую возможность для такой маркировки.

Регулирование смещается от обязательного доказательства к добровольному признанию. Пользователь может сообщить, что изображение или запись созданы машиной. Но сама отметка ещё ничего не подтверждает.

Маркировка — это заявление. Лог — это история происхождения: какая модель создала материал, кто запустил генерацию, как менялся файл и где в процесс вмешался человек. В эпоху синтетического контента главным документом становится не подпись автора, а проверяемая цепочка действий.

И человек ему — интерфейс

Границу между человеческим и машинным уже невозможно обозначить одним универсальным знаком. Если модель перефразировала абзац, изменилось ли авторство всего текста? Если алгоритм скорректировал свет или собрал часть монтажа, считается ли произведение созданным ИИ? Где заканчивается инструмент и начинается соавтор?

Человек всё чаще работает не как единственный создатель, а как интерфейс между моделью и миром. Он задаёт намерение, отбирает результат и исправляет ошибки. Затем принимает на себя авторство и ответственность за процесс, который уже не контролирует полностью.

Синтетическое изображение должно признаться в своём происхождении. Подлинное должно его доказать. Между ними возникает обширная зона гибридных материалов, для которых старые категории автора, инструмента и оригинала больше не работают.

Главный вопрос теперь не в том, участвовал ли ИИ в создании произведения. Вопрос в том, какую часть решения человек оставит за собой.