Как обезопасить компанию от «теневого ИИ» сотрудников?
Павел Сергеев
Павел Сергеев
Исполнительный директор ROBIN и Robovoice
Термины «интеллектуальная автоматизация» или «гиперавтоматизация» сегодня используют многие вендоры, но на деле далеко не каждое решение на рынке готово к применению в крупных компаниях и госструктурах.
Риски «теневого ИИ»
Когда компания не предлагает сотрудникам контролируемые инструменты, они сами начинают использовать внешние сервисы генеративного ИИ. По данным исследования Массачусетского технологического института, посвященного генеративному ИИ, сотрудники более чем 90% опрошенных компаний регулярно используют личные ИИ-аккаунты в работе, тогда как официальные подписки на языковые модели купили лишь около 40% компаний. Нередко это происходит без ведома ИТ-службы.
Фактически ИИ уже становится частью рабочих процессов, даже если это не закреплено формально. Возникает эффект «теневого ИИ», когда управление ИИ-инструментами и их влияние на бизнес-процессы выпадает из поля зрения менеджмента и службы безопасности. Это приводит к критическим последствиям:
- утечкам конфиденциальной информации и персональных данных, нарушению NDA;
- зависимости от внешних сервисов с меняющимися правилами и тарифами;
- риску использования недостоверных данных без механизмов перепроверки;
- ограничению контроля над используемыми ИИ-моделями и возможностями их адаптации к специфике бизнеса;
- невозможности расследовать инциденты в виду отсутствия журнала.
Отказаться от использования ИИ уже не получится: даже если компания не внедряет такие инструменты централизованно, сотрудники все равно находят способы использовать внешние сервисы для подготовки документов, написания кода, анализа данных или поиска информации. Поэтому вопрос сегодня заключается не в том, использовать ли ИИ, а в том, как сделать связанные с этим процессы управляемыми и безопасными.
Одним из решений становится развертывание модели внутри корпоративного контура. Но локальная модель решает вопрос «где обрабатываются данные», а не вопрос «как всем этим управлять». К тому же ее возможностей часто не хватает, и приходится подключать более мощные и быстрые облачные модели. Тогда сразу встает вопрос безопасности.
Классический пример: сотрудник загружает во внешний ИИ-сервис договор с персональными данными. Если защита зависит от его внимательности, рано или поздно он забудет очистить документ, и произойдет утечка или нарушение NDA. Надежнее, когда защита встроена в платформу. Все запросы — от чата, ИИ-агентов, роботов и процессов — проходят через единый шлюз. Он применяет политики ИИ (guardrails — правила, определяющие, какие запросы и данные допустимы), автоматически маскирует чувствительные данные до обращения к внешней модели и подставляет их обратно после получения ответа, а также направляет запрос к подходящей модели и ведет журнал событий безопасности. Человеку при этом не нужно ничего делать, и ошибиться ему негде. Какие задачи обрабатывает локальная модель и данные вообще не покидают контур, а какие можно отправить во внешнюю после маскирования, определяет политика компании, а не усмотрение сотрудника.
Почему решения с открытым исходным кодом не всегда подходят для бизнеса
Свободно распространяемые модели, особенно бесплатные, выглядят привлекательным вариантом для развертывания в собственном контуре. На рынке действительно множество решений, которые на первый взгляд позволяют быстро закрыть потребности бизнеса. Однако LLM представляет собой лишь инструмент, а заказчики нередко недооценивают объем работ, необходимых для его промышленного внедрения. Помимо самой модели требуются пользовательские интерфейсы, механизмы логирования, системы контроля доступа к настроенным навыкам агентов, фильтрация данных и защита от промпт-инъекций. Кроме того, необходимо выстроить ролевую модель доступа, интеграцию с корпоративными системами, мониторинг, отказоустойчивость и процессы управления жизненным циклом решения.
Внедрение и поддержка таких решений требуют существенных ресурсов. Помимо аналитиков и разработчиков, в проект обычно приходится вовлекать MLOps- и DevOps-инженеров, системных архитекторов, специалистов по информационной безопасности и эксплуатации. В результате совокупная стоимость владения нередко оказывается значительно выше, чем предполагалось на этапе выбора технологии.
Еще один фактор — геополитические и правовые риски. Большинство популярных проектов с открытым кодом создается и поддерживается за пределами России, поэтому условия лицензирования, поддержки и доступности могут измениться в любой момент. Дополнительное внимание стоит уделить требованиям импортозамещения: если решение по сути является надстройкой над зарубежными компонентами, для заказчика это может обернуться регуляторными и юридическими рисками.
Альтернативой самостоятельному пути для многих команд становятся готовые платформы отечественных вендоров, например Robin: вместе с функциональностью заказчик получает стабильную поддержку, обновления и понятную модель эксплуатации.
Не только ИИ: типы задач процессной автоматизации и подходящие инструменты
Одна из главных ошибок при внедрении гиперавтоматизации — попытка решить все задачи исключительно с помощью генеративного ИИ. На практике процессы сильно отличаются друг от друга, поэтому подходящий инструмент удобно выбирать по двум факторам: степени детерминированности и цене ошибки. Их сочетание показывает, где нужны строгие алгоритмы, а где — способность системы адаптироваться к изменениям контекста.
Детерминированные процессы с высокой ценой ошибки — например, финансовые операции, начисление заработной платы или подготовка отчетности — лучше выполнять с помощью программных RPA-роботов, работающих строго по заданному алгоритму. Детерминированность здесь означает, что при одних и тех же исходных данных результат всегда одинаков. Когда ошибка напрямую связана с деньгами, отчетностью или требованиями регулятора, приоритетом становятся предсказуемость, воспроизводимость и полный контроль над процессом, поэтому генеративный ИИ в роли единственного механизма принятия решений здесь не подходит.
В то же время задачи с высокой вариативностью — поиск информации, работа с неструктурированными данными, взаимодействие с постоянно меняющимися интерфейсами — лучше подходят для ИИ-агентов и больших языковых моделей. Например, веб-интерфейсы, которые регулярно обновляются, или задачи, для которых невозможно заранее описать все варианты развития событий, ИИ-агенты обрабатывают значительно эффективнее классических сценарных алгоритмов. Для работы с корпоративными системами они могут использовать открытые протоколы, например MCP (Model Context Protocol), и подключаться к «1С», «Битрикс24», браузерам, Excel и другим приложениям.
Разные задачи имеет смысл отдавать разным технологиям. Распознавание документов — специализированным OCR/IDP-моделям, алгоритмические операции — программным роботам, а ИИ-агентов и большие языковые модели подключать там, где действительно нужны гибкость и интеллект. Такое разделение труда экономит ресурсы. Локальная модель располагает ограниченной вычислительной мощностью: если загрузить ее типовыми задачами, с которыми справился бы и робот, более сложная задача будет ждать своей очереди. Облачная модель не ограничена в мощности, но каждый запрос стоит денег, ведь токены тарифицируются. Распределяя работу между технологиями, компания экономит и вычислительные ресурсы, и бюджет.
Наглядный пример — обработка договора. Агент отслеживает почту и ЭДО и получает документ, IDP-модуль извлекает из него нужные атрибуты, агент сверяет их с базой знаний и проверяет по регламенту. В спорном случае процесс останавливается и ждет решения сотрудника, а затем программный робот вносит данные в «1С»: точно по правилам и одинаково каждый раз. На всем пути платформа берет доступы из защищенного хранилища, пропускает обращения к модели через guardrails и фиксирует каждый шаг в журнале.
Исследование практик гиперавтоматизации в российских компаниях, показало, что именно программная роботизация чаще всего дает ожидаемый результат: так ответили 70% компаний, это больше, чем по ИИ и BPM. Несмотря на стремительный рост интереса к генеративному ИИ, в корпоративной среде ключевую роль играет не отдельный инструмент, а способность выстроить управляемый процесс.
Поэтому рынок корпоративных решений постепенно отказывается от идеи полной замены процессов искусственным интеллектом и переходит к комбинированной модели. Такой подход уже реализуется в современных платформах гиперавтоматизации. Например, в ROBIN программные роботы, ИИ-агенты, инструменты обработки документов и механизмы оркестрации работают в рамках единой среды управления, что позволяет выбирать оптимальный инструмент под конкретную задачу, а не пытаться решить все процессы одной технологией.
От рабочего места к процессу: зачем нужна оркестрация
Важно различать автоматизацию рабочего места и автоматизацию процесса. ИИ-ассистент или чат ускоряют работу отдельного сотрудника, но он остается «ручным оркестратором»: сам формулирует задачу, запускает ее, проверяет результат и передает его дальше. Эффект ограничивается личной продуктивностью и плохо масштабируется, потому что на любом критическом этапе процесс по-прежнему упирается в человека.
При автоматизации процесса эту роль берет на себя платформа-оркестратор. Он запускает шаги по расписанию или событию, распределяет их между сотрудниками, программными роботами и ИИ-агентами с учетом ролей, нагрузки и требований информационной безопасности, передает данные между участниками, ставит задачи в очередь, перезапускает их при сбоях и фиксирует каждое действие. Сотрудник остается в процессе там, где нужны его решение и ответственность, например, чтобы согласовать исключение. Но он выступает контролирующим звеном, а не исполнителем. Благодаря этому компания управляет сквозным процессом целиком, снижает операционные риски и масштабирует эффект на всю организацию.
Но даже правильно выбранная технология сама по себе не гарантирует успеха. По оценке MIT, большинство пилотных проектов с генеративным ИИ (около 95%) не приносят заметной финансовой отдачи, и одна из причин — слабая интеграция в повседневные процессы. Другие причины лежат в организационной плоскости: нет методологии внедрения, внутренней экспертизы, центра компетенций. Поэтому при выборе решения важно оценивать не только функциональность продукта, но и экосистему вокруг него: обучающие программы, методики оценки процессов и практики масштабирования автоматизации внутри организации.
Ключевые критерии оценки платформ
При выборе платформы интеллектуальной автоматизации крупные компании оценивают не только наличие ИИ-функций, но и соответствие корпоративным требованиям. Ниже — шесть критериев, которые могут стать основой чек-листа. Не все они одинаково важны каждой компании, поэтому сначала стоит ответить себе, какие из них нужны именно вам, а затем проверить, есть ли соответствующая возможность у инструмента «из коробки», а не в виде отдельного проекта по «обвязке».
- Безопасность данных и контроль ИИ. Платформа должна защищать данные на своем уровне, а не рассчитывать на внимательность сотрудников. Для этого нужны: единый шлюз ко всем моделям (локальным и внешним); guardrails — политики допустимых запросов и ответов; автоматическое маскирование чувствительных данных до обращения к внешней модели с обратной подстановкой после ответа; журнал событий безопасности и аудит действий. Основа — корпоративная модель доступа: интеграция с AD и SSO, гибкая ролевая модель и права доступа ко всем объектам платформы, тенанты (изолированные рабочие контуры), защищенное хранилище секретов — ключей и паролей.
- Оркестрация сквозных процессов. В одном процессе должны работать сотрудники, программные роботы, ИИ-агенты, чат-боты и модули распознавания документов. Важны последовательное и параллельное выполнение шагов, оркестрация с учетом ролевой модели, валидация оператором на критических этапах («человек в цикле»), визуальный контроль сроков и статусов, бесшовная передача документов и данных между участниками. Сюда же относится автоматическое распределение задач: учет загрузки ресурсов, выбор подходящих рабочих станций (с учетом ОС и прав доступа), очереди, перезапуск при ошибках, запуск по расписанию.
- Подбор технологии под задачу и независимость от модели. Платформа должна объединять разные технологии и позволять выбирать оптимальную для каждой задачи: RPA — для регламентных операций; ИИ-агентов и LLM — для вариативных; IDP/OCR и классические ML-модели — для работы с документами (сканы, классификация, проверка договоров, извлечение сущностей); текстовых и голосовых ботов, включая интеграцию ИИ-агентов в телефонию. Важно, чтобы можно было подключать локальные и внешние модели и менять их, не переделывая процессы, а также распределять задачи между технологиями для экономии ресурсов.
- Встраивание в корпоративную среду. Работа с легаси-системами, в том числе без API; интеграция через открытые протоколы (например, MCP). Единый кроссплатформенный веб-интерфейс (Windows, различные версии Linux, мобильные устройства) в корпоративном стиле, конструктор экранных форм для контроля и запуска процессов, единое рабочее место со списком задач, уведомления, виджеты в других системах. Соответствие требованиям импортозамещения: развертывание по политикам безопасности заказчика, работа на отечественных ОС, отсутствие зависимости от проприетарных западных фреймворков.
- Разработка и сопровождение сценариев. Визуальный low-code/no-code конструктор (блок-схемы) для пользователей с минимальной технической подготовкой; режим без ручного программирования, где вставка кода технически исключена — это повышает безопасность. Расширение функциональности собственными действиями на .NET (для корпоративных и высоконагруженных модулей) и Python (для быстрой интеграции с данными и ИИ-моделями). Централизованный мониторинг процессов и логов.
- Экосистема внедрения и масштабирование. Методология выбора процессов для автоматизации, инструменты оценки экономического эффекта, программы обучения, центр компетенций и практики масштабирования. Именно эти факторы позволяют превратить отдельные пилоты в системную программу автоматизации на уровне всей организации.
При выборе платформы рекомендуется проводить пилотные проекты, которые позволяют проверить перечисленные возможности именно на процессах конкретной организации. Такой подход помогает избежать разочарований на этапе промышленной эксплуатации и получить измеримый эффект от интеллектуальной автоматизации.
Итог
Рынок интеллектуальной автоматизации сегодня проходит тот же этап развития, который ранее переживали облачные технологии и роботизация бизнес-процессов: высокий интерес сопровождается завышенными ожиданиями и верой в универсальные решения.
На практике корпоративная автоматизация — это не гонка за самой мощной языковой моделью, а поиск баланса между безопасностью, гибкостью и возможностью реальной интеграции в существующую ИТ-инфраструктуру. Поэтому при выборе платформы бизнесу важно оценивать не только качество демонстрации возможностей генеративного ИИ, но и готовность решения к промышленной эксплуатации: масштабированию, поддержке, требованиям информационной безопасности и обеспечению непрерывности работы.
Практика показывает, что максимальный эффект достигается не при выборе между ИИ и роботизацией, а при их совместном использовании в рамках единой платформы. Генеративный ИИ работает со сложными и вариативными сценариями, программные роботы предсказуемо выполняют регламентные операции, а оркестрация объединяет их в управляемый процесс, где guardrails и маскирование защищают данные, а журнал фиксирует каждый шаг.
Именно способность сочетать различные технологии автоматизации, обеспечивать их безопасную эксплуатацию и масштабирование в рамках всей организации в конечном итоге определяет, станет ли система полноценным корпоративным инструментом или останется локальным экспериментом внутри отдельного подразделения.
по любому вопросу