Что произошло
30 сентября 2026 года Белый дом США опубликовал документ The White House Accord on Superintelligence: A Joint Commitment on Frontier SI Responsibilities. Соглашение подписали руководители Anthropic, Google, Meta, Nvidia, OpenAI, а также Илон Маск. Документ закрепляет добровольные обязательства разработчиков передовых ИИ-моделей по созданию надёжных внутренних процессов и средств контроля, обеспечивающих работу систем в соответствии с замыслом и быстрое устранение проблем.
Соглашение вводит четырёхуровневую структуру надзора за frontier-моделями. Первый уровень — внутренние средства контроля, отслеживающие возможности моделей во время обучения и эксплуатации с акцентом на кибербезопасность, биобезопасность и химические угрозы. Второй уровень — внутренняя надзорная команда, проверяющая работу этих контролей. Третий уровень — независимый внешний аудитор, верифицирующий механизмы. Четвёртый уровень — независимый комитет совета директоров, получающий отчёты и контролирующий устранение недостатков.
Документ является добровольным и занимает примерно одну страницу. Он не содержит числовых лимитов вычислительной мощности, обязательных сроков устранения уязвимостей, минимальной периодичности аудитов или единых бенчмарков. Соглашение фиксирует структуру ответственности, но оставляет компаниям свободу в определении конкретных метрик, сценариев атак и уровней остаточного риска.
Для российского бизнеса значение соглашения выходит за рамки американского саморегулирования. Требования к внутреннему аудиту, внешней проверке и board-level oversight стремительно становятся де-факто стандартом для международных закупок. Компании, не способные продемонстрировать аналогичную структуру контроля, рискуют потерять доступ к корпоративным контрактам глобальных заказчиков даже при формальном соблюдении локальных законов.
Как это устроено
Механика четырёхуровневого контроля
Соглашение переводит безопасность ИИ из исследовательской функции в систему корпоративных внутренних контролей. Разделение функций построено на принципе: команда, создающая модель, не оценивает её безопасность единолично. Внутренний контроль дополняется внешней проверкой, а результаты выносятся на уровень независимого комитета совета директоров. Это устраняет конфликт интересов, когда инженеры заинтересованы в скорейшем релизе.
Внутренние средства контроля (первый уровень) должны отслеживать возможности и соответствие моделей заявленным требованиям во время обучения и эксплуатации. Особое внимание уделяется рискам в сфере кибербезопасности, биобезопасности и химических угроз, а также предотвращению несанкционированного взлома или доступа моделей к техническим системам. На практике это означает внедрение автоматизированных сканеров безопасности, которые анализируют промпты и ответы на предмет наличия запрещённых инструкций, а также систем контроля доступа, изолирующих модель от критически важной инфраструктуры.
Внутренняя надзорная команда (второй уровень) проверяет, что средства контроля, мониторинг и механизмы обнаружения действительно работают, а выявленные недостатки устраняются. Эта команда, часто называемая «красной» или функцией безопасности модели, проводит регулярные adversarial-тестирования (red-teaming), имитируя действия злоумышленника для поиска обходных путей. Она же отвечает за валидацию данных, используемых для обучения, на предмет скрытых предвзятостей и токсичности, и проверяет, что системы журналирования фиксируют все необходимые параметры для последующего расследования инцидентов.
Независимый внешний аудитор или оценщик (третий уровень) верифицирует работу контрольных и мониторинговых механизмов. Компания должна взаимодействовать с внешней организацией для подтверждения того, что механизмы работают так, как предусмотрено. Аудитор не просто проверяет наличие политик и процедур, но и тестирует их на практике, проводит интервью с сотрудниками, анализирует документацию, включая «карточки модели» (model cards), где описаны её возможности, ограничения и меры безопасности. Его заключение — это формальное подтверждение для внешних стейкхолдеров.
Независимый комитет совета директоров (четвёртый уровень) получает отчёты от внутренних команд и внешних аудиторов, контролирует устранение выявленных проблем и обеспечивает надзор на уровне совета директоров. Этот комитет, включающий как минимум одного независимого директора с технической экспертизой, рассматривает не только отдельные инциденты, но и стратегические вопросы: аппетит к риску компании, бюджет на безопасность ИИ, соответствие долгосрочным целям. Он обладает правом вето на запуск новых версий модели до устранения критических уязвимостей.
Технология непрерывного мониторинга
Контроль охватывает весь жизненный цикл frontier-модели: обучение, тестирование, развёртывание, обновление и эксплуатацию. Для разработчика это означает необходимость связать между собой оценку опасных возможностей модели, тестирование на кибер-, био- и химические сценарии, контроль доступа к инструментам, API, коду и инфраструктуре.
В типовом сценарии система мониторинга включает журналирование действий модели, мониторинг отклонений после выпуска, процедуру аварийного ограничения или отключения, документирование исправлений и повторную проверку. Технически это требует защищённой инфраструктуры логирования, систем обнаружения аномалий в выходных данных модели и механизмов динамической изоляции агентов. Например, система должна не просто фиксировать каждый запрос и ответ, но и их контекст: идентификатор пользователя, метаданные сессии, версию модели. Обнаружение аномалий может базироваться на статистических отклонениях от эталонных ответов или на специализированных классификаторах, обученных выявлять попытки «взлома» модели через сложные промпты. Процедура аварийного отключения (kill switch) должна быть протестирована и гарантировать остановку модели в течение минут, а не часов.
Экономика соответствия требованиям
Выполнение соглашения создаёт дополнительную стоимость: нужны специалисты по безопасности, независимые оценщики, защищённая инфраструктура журналирования и регулярные проверки. По нашему опыту проектов, внедрение четырёхуровневого контроля увеличивает операционные расходы на безопасность модели на 15–30% в первый год. Основные издержки приходятся на оплату услуг внешнего аудитора и содержание выделенной надзорной команды.
Для крупных компаний эти издержки компенсируются снижением регуляторного и репутационного риска, а также доступом к контрактам финансового и промышленного секторов. Наличие независимого аудита способно стать условием допуска модели к государственным, финансовым, промышленным и международным клиентам. Более того, наличие зрелой системы управления безопасностью ИИ может снизить стоимость страхования киберрисков и повысить оценку компании со стороны инвесторов, которые всё чаще включают ESG-критерии, где безопасность ИИ становится частью «G» (Governance). Для малого и среднего бизнеса прямое копирование четырёхуровневой модели экономически нецелесообразно; требуется адаптация с привлечением внешних консультантов на аутсорсе и использованием облачных платформ с встроенными средствами безопасности.
Ограничения и лакуны документа
Соглашение не устанавливает публично подтверждённых числовых лимитов, обязательных сроков, единой системы бенчмарков или санкций за нарушение. Формулировки о работе моделей «в соответствии с замыслом» оставляют пространство для интерпретации. Без единого определения frontier-модели две компании могут формально выполнять соглашение, применяя существенно разные уровни контроля. Одна может отнести к frontier-моделям только системы с триллионами параметров, а другая — уже со ста миллиардами, что создаст неравные условия конкуренции.
Документ не создаёт международного органа сертификации и не предусматривает автоматического взаимного признания аудитов. Это означает, что каждая компания будет проходить аудит индивидуально, что увеличивает нагрузку и затраты. Возможен сценарий «аудиторского шопинга», когда компании будут выбирать наиболее лояльные аудиторские фирмы. Также в доступных источниках нет подтверждённых данных о размере инвестиций компаний в выполнение соглашения, цене внешнего аудита или допустимом количестве инцидентов. Влияние соглашения будет зависеть от того, начнут ли заказчики и инвесторы включать такие требования в договоры и процедуры закупок, превращая добровольные обязательства в обязательные рыночные.
Как это выглядит на практике
Сценарий внедрения суверенной модели в промышленный сектор
Российская компания разрабатывает суверенную фундаментальную модель для предиктивной аналитики в нефтегазодобыче. Внутренняя надзорная команда формулирует сценарии риска: генерация инструкций, нарушающих промышленную безопасность (например, «как обойти датчик давления на трубопроводе»), или несанкционированный доступ к API АСУ ТП. Модель тестируется на этих сценариях до развёртывания с помощью автоматизированных пентест-инструментов и вручную экспертами по кибербезопасности. Независимый внешний аудитор из числа аккредитованных организаций верифицирует результаты тестов, проверяя полноту тестовых наборов и корректность интерпретации результатов, а независимый комитет совета директоров ежеквартально рассматривает отчёты об инцидентах и отклонениях. В отчёте детализируется количество попыток генерации опасного контента, процент успешных блокировок, среднее время реакции на инцидент и принятые корректирующие меры.
Сценарий использования зарубежной frontier-модели через API
Финтех-компания использует зарубежную frontier-модель для автоматизации комплаенс-процедур. Прямой внешний аудит зарубежного поставщика недоступен, поэтому компания выстраивает контроль на своей стороне. Внутренние средства контроля включают шлюз, ограничивающий передачу персональных данных за рубеж (посредством маскирования и токенизации), и мониторинг ответов модели на предмет галлюцинаций или выдачи конфиденциальной информации о внутренних процессах. Внутренняя надзорная команда регулярно проводит red-teaming шлюза, пытаясь обойти его ограничения через сложные промпты, и проверяет логику фильтрации выходных данных. Комитет совета директоров утверждает реестр разрешённых сценариев использования (например, «анализ публичных новостей на предмет санкционных списков», но не «генерация рекомендаций для конкретного клиента») и получает ежемесячные отчёты о количестве заблокированных запросов и типах обнаруженных угроз.
Сценарий реакции на инцидент дистилляции
После публичных обвинений Anthropic в адрес DeepSeek в использовании ответов Claude для обучения, заказчики ужесточают требования к защите модельных весов и API. Российский разработчик, предоставляющий модель по SaaS, внедряет технические меры против несанкционированной дистилляции: ограничение частоты запросов с одного IP-адреса, добавление едва заметных артефактов (watermarks) в выходные данные, которые позволяют отследить их использование, и усложнение API для предотвращения массового сбора данных. Внешний аудитор проводит стресс-тестирование API, имитируя поведение атакующего, и проверяет криптостойкость артефактов. Совет директоров контролирует процесс обновления модели после выявления новых векторов атак, утверждает бюджет на разработку новых защитных механизмов и рассматривает пост-мортем отчёты по каждому инциденту с оценкой потенциального ущерба.
Что это значит для российской компании
Федеральный закон от 26 июля 2026 года № 243-ФЗ вводит риск-ориентированный подход к регулированию больших фундаментальных моделей. Закон требует от разработчика принимать организационные и технические меры безопасности, устанавливать правила эксплуатации и вести техническую документацию. 243-ФЗ и Joint Commitment имеют сходную направленность, но различаются по природе: российский закон создаёт юридические обязанности, тогда как соглашение — добровольную корпоративную рамку с акцентом на внешний аудит и совет директоров.
Для российских компаний, использующих иностранные frontier-модели, возникают барьеры: санкционная недоступность API, ограничения на передачу данных за пределы России, требования к инфраструктуре КИИ и необходимость доказать заказчику контролируемость модели. Внутри России четырёхуровневая структура соглашения должна применяться как корпоративный минимум, дополняющий требования 243-ФЗ. Она становится доказательной базой при прохождении аудита по 243-ФЗ и демонстрацией зрелости процессов для потенциальных партнёров и заказчиков, в том числе госкорпораций, которые начинают перенимать международные практики закупок.
| Критерий | Требования 243-ФЗ | Требования Joint Commitment |
|---|---|---|
| Правовая природа | Обязательный федеральный закон | Добровольное соглашение |
| Субъект регулирования | Разработчик суверенной или национальной модели | Разработчик frontier-модели (глобальный) |
| Меры безопасности | Организационные и технические, документирование | Внутренние контроли, мониторинг, аудит |
| Внешний аудит | Не следует прямо из текста закона, но может быть использован для доказательства соответствия | Обязательное требование |
| Надзор совета директоров | Не регламентирован напрямую | Независимый комитет совета директоров |
| Числовые критерии | Риск-ориентированный подход (вероятность и масштаб вреда) | Отсутствуют |
| Фактор риска | Российский разработчик модели | Российский интегратор зарубежной модели |
|---|---|---|
| Доступ к API и весам | Полный | Ограничен санкциями и экспортным контролем |
| Локализация данных | Соответствует 152-ФЗ при развёртывании в РФ | Требуется шлюзование, деперсонализация и сложная архитектура контроля |
| Внешний аудит | Доступен через российские аудиторские фирмы, но может потребоваться международная экспертиза для экспорта | Аудит только собственных интерфейсов и шлюзов, а не самой модели |
| Регуляторный риск по 243-ФЗ | Высокий (разработчик несёт полную ответственность) | Средний (оператор несёт ответственность за использование) |
| Операционный риск | Средний (управляемый) | Высокий (зависимость от поставщика, риск отключения API) |
Что делать: пошагово
- Утвердить реестр ИИ-моделей и классификацию риска по сценариям применения в компании. Это основа для применения риск-ориентированного подхода по 243-ФЗ и определения масштаба контролей.
- Назначить владельца модели и сформировать кросс-функциональную надзорную команду (второй уровень), включив в неё инженеров, юристов, специалиста по кибербезопасности и ethicist’а.
- Разработать и внедрить технические средства контроля (первый уровень): системы журналирования, мониторинга аномалий, ограничения доступа и фильтрации контента.
- Выбрать и заключить договор с независимым внешним аудитором (третий уровень), имеющим экспертизу в области безопасности ИИ, и определить график аудиторских проверок.
- Создать при совете директоров независимый комитет по риску ИИ (четвёртый уровень), наделить его полномочиями и обеспечить регулярное предоставление отчётов от всех уровней контроля.
Вопросы, которые нам задают
«Мы не Anthropic или Google, у нас модель для внутреннего использования. Нам ли это надо?»
Да, если вы планируете взаимодействовать с крупными заказчиками, в том числе с госкорпорациями, или выходить на международные рынки. Структура контроля из Joint Commitment быстро превращается из добровольной в ожидаемую. Заказчики хотят видеть не просто декларацию о безопасности, а работающие процессы: внутреннюю команду, которая проверяет модель, и отчёты внешнего аудитора. Даже для внутреннего инструмента наличие такой структуры снижает операционные риски и помогает при прохождении проверок по 243-ФЗ.
«Где найти “независимого внешнего аудитора”? Это государственная функция?»
Нет, это коммерческая услуга. Аудитором может стать крупная консалтинговая компания («Большая четверка»), специализирующаяся на кибербезопасности, или более нишевая фирма с экспертизой именно в области AI/ML Safety. При выборе важно оценивать не только репутацию, но и наличие у команды технических специалистов, понимающих специфику тестирования языковых и генеративных моделей. Аудит должен включать не только проверку документов, но и практические тесты.
«Мы используем зарубежную модель по API. Мы же не можем аудитить поставщика, как нам выполнить требования?»
Вы не можете аудитить «чёрный ящик» поставщика, но вы обязаны аудитить и контролировать свою систему использования этой модели. Четырёхуровневая структура применяется к вашей инфраструктуре: шлюзам, системам фильтрации, мониторингу. Вы должны доказать, что ваша система предотвращает утечку данных и опасное использование модели, даже если сама модель находится за рубежом. Внешний аудитор будет проверять не Anthropic, а ваши технические и организационные меры.
«Чем принципиально отличается от требований 243-ФЗ? Не дублируем ли мы работу?»
Требования 243-ФЗ — это юридический минимум, направленный на предотвращение вреда. Joint Commitment — это корпоративная надстройка, направленная на доверие. Главное отличие — в акцентах: 243-ФЗ требует «принимать меры» и «вести документацию», а Joint Commitment требует доказать это через независимый внешний аудит и надзор на уровне совета директоров. По сути, выполнение стандартов Joint Commitment является самым надежным способом доказать соблюдение 243-ФЗ регулятору и одновременно соответствовать ожиданиям крупных бизнес-заказчиков.