Теневой ИИ: скрытые риски
Сегодня искусственный интеллект становится всё доступнее, и сотрудники компаний всё чаще начинают пользоваться ИИ-инструментами без согласования с IT-отделами и службами безопасности. Да, такие помощники заметно повышают продуктивность, автоматизируют рутинные задачи и закрывают пробелы в привычных рабочих процессах.
Но у этой медали есть и обратная сторона: неконтролируемые ИИ-решения работают вне зоны видимости специалистов по безопасности, обходят существующие защитные механизмы и создают новые «слепые зоны». Это явление получило название теневой ИИ (shadow AI).
Если классическая «теневая IT» — это просто неутверждённое программное обеспечение, то теневой ИИ идёт дальше. Он вовлекает системы, которые обрабатывают, генерируют, а иногда и сохраняют конфиденциальную информацию. В итоге компании сталкиваются с рисками, к которым большинство из них попросту не готовы: утечки данных, расширение атакуемой поверхности и ослабление контроля над идентификационными данными.
Почему теневой ИИ распространяется так быстро
Теневой ИИ стремительно захватывает корпоративную среду по одной простой причине: его легко начать использовать, он мгновенно приносит пользу, но при этом почти никак не регулируется. В отличие от традиционного корпоративного софта, большинство ИИ-инструментов не требуют сложной настройки. Сотрудник может начать работать с ними прямо сейчас.
Согласно опросу Salesforce 2024 года, 55% сотрудников признались, что пользуются ИИ-инструментами, не утверждёнными их организацией. Поскольку во многих компаниях до сих пор нет чётких политик использования ИИ, люди вынуждены самостоятельно решать, какие инструменты применять и как это делать — зачастую без малейшего понимания связанных с этим рисков.
Представьте обычную ситуацию: сотрудник использует ChatGPT или Claude в повседневной работе. Это действительно повышает эффективность. Но при этом конфиденциальные данные могут покинуть компанию без какого-либо контроля. Будет ли поставщик ИИ использовать эти данные для обучения своих моделей, зависит от конкретной платформы и типа учётной записи. Однако сам факт остаётся фактом: данные уже вышли за периметр безопасности организации.
На уровне отдельных отделов теневой ИИ может проявляться, когда команды встраивают ИИ-API или сторонние модели в свои приложения без формальной проверки безопасности. Такие интеграции не только раскрывают внутренние данные, но и создают новые векторы атак, которые служба безопасности не видит и не может контролировать.
Вместо того чтобы пытаться полностью искоренить теневой ИИ, организациям необходимо научиться активно управлять создаваемыми им рисками.
Почему теневой ИИ — это проблема безопасности
Часто теневой ИИ называют вопросом управления и контроля (governance), но на самом деле в его основе лежит именно проблема безопасности. Если при классической теневой IT сотрудники просто используют неутверждённые программы, то теневой ИИ задействует системы, которые активно обрабатывают и хранят данные за пределами досягаемости специалистов по безопасности. Это превращает нелегальное использование ИИ в полноценный риск утечки данных и злоупотребления доступом.
Теневой ИИ ведёт к неотслеживаемым утечкам
Сотрудники могут загружать в ИИ-инструменты клиентские данные, финансовую информацию или внутренние документы, чтобы быстрее выполнить задачу. Разработчики, пытаясь отладить код, нередко по неосторожности вставляют в запросы скрипты с «зашитыми» API-ключами, паролями от баз данных или токенами доступа. Так они раскрывают чувствительные учётные данные, даже не осознавая этого.
Как только информация попала на стороннюю ИИ-платформу, компания теряет всякое представление о том, как она хранится и используется. Данные уходят без возможности аудита. Отследить или локализовать утечку становится крайне сложно, а иногда и вовсе невозможно. С точки зрения законодательства (GDPR, HIPAA) такая бесконтрольная передача данных может считаться нарушением, за которое нужно отчитываться.
Теневой ИИ стремительно расширяет атакуемую поверхность
Каждый новый ИИ-инструмент создаёт для киберпреступников очередной потенциальный вектор атаки. Когда неутверждённые инструменты внедряются без контроля, они могут включать непроверенные API или плагины — небезопасные или даже откровенно вредоносные.
Сотрудники, заходящие на ИИ-платформы через личные аккаунты или устройства, полностью выводят свою активность за пределы корпоративных средств защиты. Традиционный мониторинг сети такую активность не видит.
А когда в компаниях начинают внедрять ИИ-агентов, действующих автономно в рамках рабочих процессов, риск становится ещё серьёзнее. Эти системы взаимодействуют с множеством приложений и платформ, создавая сложные и в значительной степени скрытые пути, которые злоумышленники могут использовать для атак.
Теневой ИИ обходит традиционные средства защиты
Традиционные меры безопасности изначально не были рассчитаны на современное использование ИИ. Большинство ИИ-платформ работают через HTTPS. Это означает, что стандартные правила фаервола и сетевой мониторинг не могут проверить содержимое этих взаимодействий, если только не настроен SSL-инспектор. А это — контроль, который многие организации до сих пор не внедрили.
К тому же разговорные ИИ-интерфейсы ведут себя не как обычные приложения, что затрудняет мониторинг и логирование активности стандартными инструментами безопасности. В результате данные могут свободно передаваться внешним ИИ-системам, не вызывая никаких сигналов тревоги.
Теневой ИИ влияет на безопасность идентификационных данных
Теневой ИИ порождает серьёзные проблемы в управлении идентификацией и доступом (IAM). Сотрудники могут создавать множество учётных записей на разных ИИ-платформах, что приводит к фрагментированным и бесконтрольным идентификаторам.
Разработчики и вовсе могут подключать ИИ-инструменты к системам через сервисные аккаунты, создавая тем самым нечеловеческие идентификаторы (Non-Human Identities, NHI) без какого-либо надзора. Если в организации отсутствует централизованное управление, за такими идентификаторами становится сложно следить и контролировать их на протяжении всего жизненного цикла. Это повышает риск несанкционированного доступа и длительной уязвимости.
Как организации могут снизить риски теневого ИИ
Поскольку ИИ всё глубже проникает в повседневные рабочие процессы, организациям необходимо стремиться к снижению рисков, одновременно разрешая безопасное и продуктивное использование технологий. Это требует от служб безопасности смены подхода: от полного блокирования ИИ-инструментов к управлению тем, как именно сотрудники их используют. В центре внимания должны быть прозрачность и поведение пользователей.
Снизить риски теневого ИИ можно, следуя этим шагам:
Разработайте чёткие политики использования ИИ. Определите, какие ИИ-инструменты разрешены и какими данными можно делиться. Политики должны быть простыми и интуитивно понятными — излишне жёсткие ограничения лишь подтолкнут сотрудников к использованию нелегальных инструментов.
Предложите одобренные альтернативы ИИ. Когда у сотрудников нет доступа к полезным инструментам, они начинают искать свои. Предоставление безопасных, одобренных ИИ-решений, соответствующих корпоративным стандартам, снижает потребность в теневом ИИ.
Улучшите видимость использования ИИ. Полная прозрачность не всегда достижима, но организациям следует отслеживать сетевой трафик, привилегированный доступ и активность API, чтобы лучше понимать, как сотрудники применяют ИИ.
Обучайте сотрудников рискам безопасности ИИ. Многие люди видят только преимущества ИИ для продуктивности, совершенно не задумываясь об угрозах. Обучение безопасному использованию ИИ и правильному обращению с данными может радикально снизить количество случайных утечек.
Преимущества эффективного управления теневым ИИ
Организации, которые проактивно управляют теневым ИИ, получают более жёсткий контроль над тем, как ИИ используется в их среде. Эффективное управление даёт несколько важных преимуществ:
полная видимость того, какие ИИ-инструменты используются и к каким данным они обращаются;
снижение регуляторных рисков в соответствии с GDPR, HIPAA и ЕС-регламентом об ИИ (EU AI Act);
более быстрое и безопасное внедрение ИИ с использованием проверенных инструментов и чётких инструкций;
более высокий уровень принятия одобренных ИИ-инструментов и снижение зависимости от небезопасных альтернатив.
Безопасность должна учитывать теневой ИИ
Внедрение ИИ становится нормой в рабочей среде. Сотрудники будут продолжать искать инструменты, которые помогают им работать быстрее. Учитывая, насколько легко получить доступ к ИИ-инструментам и как редко политики использования успевают за их распространением, некоторая доля теневого ИИ в любой крупной организации неизбежна.
Вместо попыток полностью заблокировать ИИ-инструменты организациям следует сосредоточиться на том, чтобы сделать их использование безопасным. Для этого нужно повышать прозрачность ИИ-активности и обеспечивать надлежащее управление как человеческими, так и машинными идентификаторами.
Keeper напрямую поддерживает такой подход. Решение помогает организациям контролировать привилегированный доступ к системам, с которыми взаимодействуют ИИ-инструменты, обеспечивать минимально необходимые привилегии (least-privilege) для всех идентификаторов — включая людей и ИИ-агентов — и вести полный аудит активности в критически важной инфраструктуре. Поскольку ИИ-агенты становятся всё более распространёнными в корпоративных процессах, управление идентификаторами и путями доступа, на которые они полагаются, становится не менее важным, чем управление самими инструментами.
