Что произошло
8 и 9 сентября 2026 года отраслевые СМИ и «Коммерсант» сообщили о подготовке проекта постановления правительства, который может обязать российские компании использовать «суверенные» модели искусственного интеллекта даже в случаях, когда они дороже гибридных аналогов. Эта мера напрямую вытекает из Федерального закона № 243‑ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации», принятого 26 июля 2026 года и вступившего в силу с 1 сентября. Закон вводит жёсткие требования к большим фундаментальным моделям (БФМ) с числом параметров от 1 млрд, определяя статусы «суверенных» и «национальных» систем, для которых обязательна локализация обработки данных в РФ и участие российских юрлиц.
На фоне законодательных изменений ведущие технологические экосистемы страны — «Яндекс», МТС, Т1 и «Сбер» — официально заявили о разработке ИТ-продуктов на основе ИИ, предназначенных для мониторинга и контроля работы других ИИ-агентов. Речь идёт о формировании нового обязательного слоя корпоративного стека: AI-for-AI governance. Эти системы призваны отслеживать действия агентных моделей, фиксировать аномалии в поведении и обеспечивать соблюдение внутренних политик безопасности, что становится критически важным при развёртывании автономных агентов в банковской сфере, ритейле и госуправлении.
Параллельно с этим глобальный рынок демонстрирует ускорение развития агентных решений. OpenAI начала ограниченный развёртывание GPT‑6 Astra, достигшей «критического» порога кибербезопасности, что требует новых подходов к надзору. Meta представила персонального агента Muse с тарифами до $100 в месяц, а Tencent выпустила открытую 770-миллиардную модель. Для российского бизнеса это создаёт сложный контекст: с одной стороны, растут возможности ИИ, с другой — ужесточаются требования 243‑ФЗ, делая системы контроля за агентами не опцией, а необходимостью.
Как это устроено
Механика контроля за агентами
Суть систем AI-for-AI governance заключается в создании промежуточного слоя между ИИ-агентом и корпоративными ресурсами. В типовом сценарии агент не получает прямого доступа к базам данных или API внешних сервисов. Все его запросы проходят через шлюз контроля, где анализируются специальной «надзорной» моделью. Эта модель проверяет соответствие действий агента заданным политикам (policy-as-code), блокируя операции, выходящие за рамки полномочий, или попытки доступа к чувствительным данным, запрещённым регуляторными нормами. По нашему опыту проектов, именно такой прокси-уровень позволяет предотвратить большинство инцидентов, связанных с «галлюцинациями» агентов или их непреднамеренными вредоносными действиями.
Технологическая интеграция и стек
Архитектурно решения российских вендоров строятся с учётом необходимости интеграции в существующие SIEM-системы, IAM и DLP. Контролирующий модуль встраивается в пайплайн обработки запросов, перехватывая как входящие промты, так и исходящие ответы агента. Важным элементом является изоляция среды исполнения: аналогично тому, как Meta использует выделенную Secure VM для своего агента Muse, российские системы предусматривают запуск агентов в изолированных контейнерах (sandbox), что критично для соблюдения требований безопасности критической информационной инфраструктуры (КИИ). Это позволяет ограничить ущерб в случае компрометации самого агента.
Экономика и управление ресурсами
Хотя конкретные цены на продукты «Яндекс», МТС и Сбера пока не раскрыты, экономическая модель таких систем базируется на предотвращении убытков и оптимизации расходов на инференс. Слой governance позволяет внедрять лимиты на потребление токенов и бюджетные ограничения для отдельных агентов или департаментов. Учитывая, что использование мощных моделей (таких как GPT‑6 Astra или отечественные аналоги высокого уровня) требует значительных операционных расходов, система контроля предотвращает бесконечные циклы выполнения задач и нецелевой расход вычислительных ресурсов. В условиях, когда суверенные модели могут быть дороже зарубежных аналогов, такой контроль становится фактором выживаемости бюджета.
Ограничения и регуляторный барьер
Федеральный закон № 243‑ФЗ устанавливает чёткий порог в 1 млрд параметров для отнесения модели к большим фундаментальным. Системы контроля должны уметь классифицировать используемые модели и агентов, определяя, подпадают ли они под действие закона. Это требует от governance-платформ наличия реестра моделей и модулей инвентаризации. Если компания использует модель с меньшим числом параметров, она может выпасть из-под прямого регулирования суверенитета, но риски безопасности остаются, поэтому передовые системы контроля охватывают весь спектр ИИ-инструментов, а не только БФМ.
Наблюдаемость и аудит
Ключевой компонент новых решений — расширенная наблюдаемость (observability). Система должна фиксировать полную цепочку действий агента: от постановки задачи пользователем до финального изменения в системе. Это особенно важно в свете требований 243‑ФЗ об информировании пользователей о правах на результаты интеллектуальной деятельности, полученные с помощью ИИ. Криптографически защищённые журналы аудита позволяют восстановить картину событий для проверки регуляторами или внутренними службами безопасности, обеспечивая доказательную базу соответствия законодательству.
Как это выглядит на практике
Сценарий в банковском секторе
Крупный банк внедряет ИИ-агентов для автоматизации обработки кредитных заявок. Агент имеет доступ к данным заёмщиков из внутренних баз и к внешним источникам (например, бюро кредитных историй). Система AI-for-AI governance, интегрированная с решениями отечественного вендора, анализирует каждый запрос агента к внешнему API. Если агент пытается отправить персональные данные на сервер, не находящийся в юрисдикции РФ, что нарушает требования к суверенным моделям и 152-ФЗ, система автоматически блокирует запрос и перенаправляет его в локальную среду. Это позволяет банку использовать агентов для ускорения процессов, не нарушая законодательство о персональных данных и требования 243‑ФЗ.
Сценарий в госуправлении (региональный уровень)
Министерство Московской области, где ИИ уже внедрён в 80% онлайн-услуг, использует агентов для консультирования граждан по 367 электронным услугам. Для контроля за этими агентами разворачивается надзорный слой, который отслеживает, чтобы агенты не давали юридически значимых советов, выходящих за рамки их компетенции, и не генерировали дискриминационный контент. Система логирует все взаимодействия, что необходимо для отчётности перед контролирующими органами. В случае если агент начинает «галлюцинировать», выдавая несуществующие льготы, система governance мгновенно отключает конкретный экземпляр агента и переводит диалог на оператора-человека.
Что это значит для российской компании
Внедрение систем AI-for-AI governance кардинально меняет подход к архитектуре ИИ-решений в российских компаниях. Ранее контроль осуществлялся общими средствами ИБ, теперь же требуется специализированный слой, понимающий специфику поведения агентов. Требования 243‑ФЗ и возможное обязательное использование суверенных моделей создают ситуацию, когда бизнес вынужден выбирать между эффективностью (глобальные модели) и комплаенсом (российские модели). Системы контроля становятся тем «клеем», который позволяет безопасно использовать гибридные архитектуры, обеспечивая изоляцию критических данных и маршрутизацию запросов только к одобренным суверенным моделям.
Санкционные ограничения также играют свою роль: импортные решения для управления ИИ (например, от IBM или Credo AI) могут быть недоступны или не соответствовать требованиям по локализации данных. Это усиливает значение отечественных разработок от «Яндекса», Сбера и МТС. Для бюджета компании это означает появление новой статьи расходов на лицензирование и поддержку governance-платформы, однако эти затраты окупаются за счёт снижения штрафов за нарушение законодательства и предотвращения инцидентов безопасности.
Таблица 1. Сравнение подходов к внедрению ИИ в условиях 243-ФЗ
| Критерий | Подход без специализированного governance | Подход с отечественным AI-for-AI governance |
|---|---|---|
| Соответствие 243-ФЗ | Ручной контроль, высокий риск ошибок и штрафов | Автоматическая проверка суверенности моделей и локализации данных |
| Управление рисками | Реакция на инциденты постфактум через SIEM | Превентивная блокировка опасных действий агентов в runtime |
| Стоимость владения | Низкие CAPEX, высокие потенциальные потери (OPEX) | Умеренные CAPEX на ПО, предсказуемые OPEX, снижение рисков |
| Интеграция с стеком | Фрагментарная, требует доработки под каждого агента | Единая точка контроля для всех агентов и моделей (БФМ и малых) |
| Зависимость от импорта | Высокая (частое использование зарубежных API) | Низкая (работа с российскими экосистемами и моделями) |
Что делать: пошагово
- Провести полную инвентаризацию всех используемых в компании ИИ-моделей и агентов, классифицировать их по числу параметров (порог 1 млрд для 243‑ФЗ) и типу решаемых задач.
- Определить критически важные бизнес-процессы, где планируется внедрение агентных систем, и оценить риски от их неконтролируемого поведения (утечки данных, ошибочные транзакции).
- Разработать внутренние политики использования ИИ (AI Use Policy), определив, какие данные могут обрабатываться агентами, какие модели (суверенные/национальные) допустимы для разных типов задач.
- Выбрать вендора или архитектурное решение для слоя governance (рассмотреть предложения экосистем «Яндекс», «Сбер», МТС или open-source решения с доработкой под требования 243‑ФЗ).
- Внедрить пилотный проект на одном из не критичных направлений, настроив прокси-слой, логирование и политики безопасности, оттестировать интеграцию с существующим IAM и SIEM.
- Обучить сотрудников ИБ и разработки работе с новыми инструментами мониторинга, создать роль AI Governance Officer, ответственного за соответствие закону.
- Масштабировать решение на всю инфраструктуру, настроить автоматическую отчетность для регуляторов и подготовиться к марту 2027 года, когда вступят в силу основные обязанности по 243‑ФЗ.
Типичные ошибки
- Игнорирование порога в 1 млрд параметров. Компании часто полагают, что закон касается только «гигантов» вроде GPT-6, и забывают, что многие специализированные модели (например, для анализа медицинских изображений или финансового прогнозирования) также могут подпадать под определение БФМ, требуя суверенного развертывания и контроля.
- Полагаться только на настройки самого ИИ-агента. Попытка ограничить агента только системным промтом (system prompt) без внешнего слоя контроля ошибочна, так как современные модели способны обходить такие ограничения через jailbreak или сложные цепочки рассуждений.
- Внедрение иностранных governance-инструментов. Использование решений от вендоров, находящихся под санкциями или не гарантирующих локализацию данных в РФ, может привести к нарушению 243‑ФЗ и создать дополнительную уязвимость в инфраструктуре.
- Отсутствие интеграции с процессами одобрения. Если техническая система контроля блокирует действие агента, но в компании нет процесса быстрого ручного одобрения или разблокировки, это приведёт к остановке бизнес-процессов и потере выручки.
- Недооценка Shadow AI. Руководители часто контролируют только централизованные закупки ИИ, забывая, что сотрудники могут самостоятельно использовать публичных агентов (например, Muse или ChatGPT) для работы с корпоративными данными, что делает бессмысленным весь инвестиции в governance.
Как понять, что вы на верном пути
- У вас существует актуальный реестр всех ИИ-агентов и моделей, используемых в компании, с указанием их статуса по 243‑ФЗ (суверенная/национальная/иная).
- Система безопасности способна в реальном времени заблокировать действие агента, нарушающего политику безопасности или законодательство, не останавливая при этом работу всего сервиса.
- Вы можете автоматически сгенерировать отчёт для регулятора, показывающий, какие именно суверенные модели использовались для обработки данных граждан или критической информации за отчётный период.
- Бюджеты на расход токенов и вычислительных ресурсов распределяются и контролируются централизованно, с предотвращением нецелевого расхода средств агентами.
Вопросы, которые нам задают
Нужно ли контролировать небольших ботов-помощников, если они не являются БФМ по 243-ФЗ?
Да, обязательно. Даже если модель не подпадает под определение большой фундаментальной (менее 1 млрд параметров), она всё равно имеет доступ к корпоративным данным и может совершать действия от имени пользователя. Системы контроля необходимы для защиты от утечек и обеспечения информационной безопасности, независимо от статуса модели по закону.
Обязателен ли переход на суверенные модели прямо сейчас?
Закон 243‑ФЗ устанавливает переходный период до 2032 года для полного соответствия некоторым нормам, однако базовые требования по использованию суверенных моделей для решения задач государства и критической инфраструктуры могут вступить в силу раньше (с марта 2027 года). Компании рекомендуется начать подготовку и тестирование суверенных решений уже сейчас, чтобы избежать резкого скачка затрат и технических проблем в будущем.
Как оценить экономический эффект от внедрения системы контроля?
Эффект складывается из предотвращённых убытков. Рассчитайте стоимость потенциального инцидента (утечка базы клиентов, ошибочная транзакция, штраф регулятора) и вероятности его возникновения. Сравните эту цифру с годовой стоимостью владения системой governance. По нашему опыту, для среднего и крупного бизнеса ROI на таких проектах достигается за 9–12 месяцев за счёт снижения рисков и оптимизации расходов на инференс.