ИИ-агент прошёл испытания. Кто разрешит ему работать самостоятельно?
Успешный пилот ещё не даёт цифровому исполнителю права самостоятельно действовать. Разбираем, как руководителю установить границы автономности, проверить готовность агента и сохранить человеческий контроль.
Предприятие подключило ИИ-агента к ERP, проверило десятки заявок и получило хороший результат. Можно ли теперь разрешить ему самостоятельно отправлять заказы? Ответ зависит не только от точности тестов. Нужно знать, что произойдёт при ошибке артикула, изменении цены, новом поставщике или сбое интеграции.
Почему тема стала управленческой, а не только технической
По мере перехода от чат-помощников к агентам, которые используют инструменты и меняют данные, возникает разрыв между возможностями системы и зрелостью управления. Руководителю требуется не просто оценка качества ответов, а формальный порядок разрешения действий. Международные подходы к ответственному использованию ИИ, включая рамку NIST AI Risk Management Framework, подчёркивают необходимость управления рисками на протяжении жизненного цикла системы. Эта рамка добровольная и не заменяет российские требования.
Почему пилот не равен допуску
Успешная демонстрация подтверждает, что ИИ-агент справился с проверенными заданиями. Она не доказывает, что агент безопасно обработает исключения, изменение данных, сбой интеграции или попытку выйти за пределы разрешённых действий. Для руководителя важно различать функциональную пригодность, управленческую допустимость и эксплуатационную устойчивость.
От цифровой должности к управленческому допуску
В НУМ цифровое штатное расписание показывает, какие цифровые исполнители существуют и кому принадлежит ответственность за их работу. Паспорт цифровой должности описывает назначение, данные и ожидаемый результат. Цифровой мандат устанавливает полномочия и ограничения. Процессный контекст определяет правила работы. Управленческий допуск отвечает на следующий вопрос: проверена ли готовность конкретной версии агента действовать в этих границах прямо сейчас?
Подробнее о предшествующих элементах архитектуры: цифровое штатное расписание, цифровой мандат, процессный контекст и диспетчерская цифрового контура.
Что означает управленческий допуск
Управленческий допуск цифрового исполнителя — документированное решение уполномоченного владельца процесса разрешить конкретному ИИ-агенту определённые операции после проверки качества, рисков, ограничений и механизмов контроля. Это авторский методический инструмент НУМ, а не предусмотренный законодательством универсальный сертификат.
Агент анализирует и готовит проекты. Человек проверяет значимые решения.
Агент выполняет разрешённые обратимые действия, исключения передаёт человеку.
Агент выполняет типовые операции в технических пределах, под наблюдением и с возможностью остановки.
Уровни — предлагаемая классификация НУМ. Они не отменяют обязательные согласования для юридически значимых и высокорисковых операций.
Что меняется для руководителя и HR
Руководитель процесса становится владельцем правил использования цифрового исполнителя. ИТ-команда отвечает за реализацию технических ограничений и наблюдаемость. Информационная безопасность оценивает доступы и риски. HR помогает выстроить компетенции сотрудников, которые проверяют результат ИИ и разбирают исключения. ИИ не является работником в трудовом смысле: цифровая должность — управленческая модель, а не юридический статус.
Государственный и муниципальный сектор
В органах власти агент может классифицировать обращения, готовить проекты ответов и искать отклонения в отчётности. Однако подготовка проекта и принятие юридически значимого решения — разные действия. Полномочия должностных лиц, требования к персональным данным, информационной безопасности и документообороту сохраняют приоритет. Допуск цифрового исполнителя не заменяет предусмотренных законом процедур.
После допуска нужен контроль
Показатели должны охватывать качество, полную стоимость операции, время выполнения, возвраты на доработку, попытки запрещённых действий, количество передач человеку и сбои. При существенном изменении модели, инструментов, данных или полномочий допуск необходимо пересматривать. После серьёзного инцидента — ограничить действия, восстановить историю, устранить причину, повторить испытания и только затем решать вопрос о возобновлении.
Практический инструмент: карта допуска цифрового исполнителя
До запуска заполните карту и сохраните протокол испытаний. Отсутствие владельца, технических ограничений или проверенного способа остановки — основание не выдавать автономный допуск к значимым операциям.
| Параметр | Что фиксировать |
|---|---|
| Цифровая должность | Функция и ожидаемый результат |
| Владелец процесса | Ответственный руководитель |
| Версия | Модель, конфигурация, инструменты |
| Разрешено / запрещено | Действия, данные, финансовые лимиты |
| Испытания | Типовые случаи, исключения, ошибки |
| Human Decision Gate | Когда обязательно решение человека |
| Контроль | Качество, стоимость, инциденты |
| Остановка | Технический способ отзыва прав |
| Пересмотр | События и дата повторной проверки |
| Решение | Кто, когда и на каких условиях допустил |
Пример: ИИ-агент закупок
Разрешено классифицировать заявки, сравнивать позиции с каталогом и готовить рекомендации. Запрещено самостоятельно менять реквизиты поставщика, утверждать нового контрагента или заключать договор. Новые поставщики, конфликты данных и превышение лимита направляются руководителю закупок. Это иллюстративный сценарий, а не описание подтверждённого внедрения.
Десять вопросов перед запуском
Это экспресс-диагностика, а не сертификат безопасности. Для финансовых, кадровых, производственных и юридически значимых действий нужны дополнительные отраслевые и правовые проверки.
План внедрения на десять рабочих дней
| Период | Действие | Результат |
|---|---|---|
| 1–2 дни | Выбрать процесс и владельца | Паспорт роли |
| 3–4 дни | Определить риски и ограничения | Проект допуска |
| 5–6 дни | Испытать типовые и нестандартные случаи | Протокол |
| 7–8 дни | Проверить журнал и остановку | Контрольные доказательства |
| 9 день | Оценить качество, стоимость и риски | Заключение |
| 10 день | Принять решение | Допуск, ограничения или доработка |
Срок ориентировочный для простого сценария; высокорисковые системы требуют более продолжительных проверок.
НУМ: два контура, одна ответственность за результат
Человеческий контур формулирует цели, назначает полномочия и принимает значимые решения. Цифровой контур исполняет разрешённые операции, предоставляет цифровой след и сигнализирует об исключениях. В пространстве интеллектов эти контуры взаимодействуют через архитектуру управления. Чем выше самостоятельность агента, тем важнее проверяемый допуск и право человека отозвать полномочия.
Как применить методику в организациях России
Центр комплексных бизнес-решений «Яркина школа» развивает НУМ и помогает организациям выстраивать архитектуру управления ИИ: от диагностики процессов и корпоративного обучения до проектирования цифровых должностей и пилотных решений. Мы рассматриваем задачи предприятий и органов управления Воронежской области, Москвы, Санкт-Петербурга, Республики Татарстан, Нижегородской области и других регионов России. Конкретный формат сотрудничества определяется задачей и согласовывается отдельно.
Начните с оценки экономического эффекта и выбора процесса, в котором можно проверить совместную работу человеческого и цифрового контуров.
От управленческой задачи — к проверяемому ИИ-решению
Оцените эффект, изучите практические кейсы или выберите формат диагностики и внедрения.
Частые вопросы (FAQ)
Что такое допуск ИИ-агента к работе?
Это управленческое разрешение на определённые действия конкретного цифрового исполнителя после проверки качества, рисков и возможности контроля.
Чем допуск отличается от цифрового мандата?
Мандат устанавливает, что разрешено агенту; допуск подтверждает готовность конкретной версии агента работать в установленных границах.
Может ли ИИ действовать без постоянного подтверждения человека?
Да, в рамках контролируемой автономности и при соблюдении правовых требований, технических ограничений и условий остановки.
Кто отвечает за допуск?
Уполномоченный владелец процесса или назначенный руководитель, опираясь на заключения профильных специалистов.
Когда допуск нужно пересматривать?
При существенном изменении модели, интеграций, полномочий, процесса или после значимого инцидента.
Подходит ли методика государственным организациям?
Как управленческий инструмент — да, но она не заменяет правовые процедуры и полномочия должностных лиц.
Источники и методология
NIST AI Risk Management Framework — первичная рамка управления рисками ИИ. NIST AI RMF Playbook — практические рекомендации по Govern, Map, Measure, Manage.
Определения «управленческий допуск цифрового исполнителя», «цифровое штатное расписание» и «паспорт цифровой должности» применяются как авторские управленческие конструкции НУМ. Они не объявляются обязательными нормативными требованиями.
Авторы
Дата публикации: 20 октября 2026 года. При изменении материала укажите фактическую дату обновления.