AI Security · безопасность ИИ-систем
Защищаем корпоративный ИИ так, чтобы нейросети ускоряли работу, а не выносили наружу данные клиентов и коммерческую тайну.
Ставим технические средства защиты LLM:
Запрос сотрудникаПодготовь письмо Петрову Ивану Сергеевичу о продлении договора № 47-2026 на 3,2 млн ₽, телефон +7 900 000-00-00
AI-шлюзпроверка и маскирование
Уходит в модельПодготовь письмо [ФИО_1] о продлении договора [ДОГОВОР_1] на [СУММА_1], телефон [ТЕЛЕФОН_1]
Безопасность корпоративного ИИ - технические и организационные меры, которые не дают нейросетям и большим языковым моделям (LLM) компании стать каналом утечки данных или точкой входа в инфраструктуру.
Что защищаем - весь путь запроса
По OWASP Top 10 for LLM Applications 2025 три риска определяют состав защиты корпоративного ИИ.
Внедрение вредоносных инструкций в запрос или документ
Утечка данных через ответы модели
Лишние права и действия без подтверждения
Вывод: для ИИ нужен отдельный контур проверки запросов и ответов.
Безопасность нейросетей в компании держится на четырёх точках, через которые проходит запрос к ИИ. У каждой свои угрозы и свои средства защиты; журнал событий связывает их в один след для расследования.
Сквозной мониторинг. Каждый запрос, ответ и действие агента попадает в журнал с привязкой к пользователю. События передаются в SIEM, чтобы служба безопасности видела попытки атак и могла восстановить, кто, что и куда отправил.
AI-шлюз (LLM firewall) становится единой точкой входа ко всем языковым моделям компании, внутренним и внешним. Он проверяет каждый запрос до модели и каждый ответ после неё: отсекает внедрение вредоносных инструкций, применяет правила по пользователям и темам, ограничивает нагрузку и ведёт журнал. Сотрудники работают с ИИ как раньше, но через контролируемый канал.
Маскирование данных для LLM заменяет персональные данные, реквизиты и коммерческую тайну условными метками до того, как запрос уйдёт в модель. Модель работает с текстом без реальных значений, а шлюз подставляет исходные данные обратно в ответ. Таблица соответствия не покидает контур компании, поэтому внешний ИИ-сервис не получает сведения о клиентах.
Guardrails задают, о чём ИИ-ассистент может говорить и в каком виде отвечать. Ассистент службы поддержки не обсуждает зарплаты, юридический помощник отвечает только со ссылкой на документ из базы. Ответ, который выходит за правила или содержит признаки утечки, блокируется или уходит на проверку человеку.
Корпоративный ИИ-ассистент с базой знаний должен видеть ровно те документы, что и сотрудник, который задал вопрос. ИИ-агентам выдаём минимальный набор инструментов и прав, а действия с последствиями (отправка письма наружу, изменение записей, платежи) выполняются только после подтверждения человеком.
Журнал запросов, ответов и действий агентов передаём в SIEM и связываем с учётными записями. Служба безопасности видит, кто и какие данные отправлял в нейросети, какие запросы похожи на атаку и где сработали ограничения. Тот же журнал нужен для разбора инцидента и отчёта перед регулятором.
Пример из практики · заказчик под NDA
Для enterprise-заказчика с большим документооборотом КРЕДО-С внедрила конвейер, который перед передачей документов в LLM и базы знаний находит ФИО во всех падежах, паспортные данные, СНИЛС, ИНН и номера договоров, маскирует печати на сканах и заменяет значения обратимыми токенами вида [ФИО_1]. Ключи восстановления хранятся в зашифрованном хранилище заказчика.
Подробнее о проектеГлавный риск
Договоры, базы клиентов и персональные данные уходят внешнему сервису без контроля компании
Что ставим
Главный риск
Ответ раскрывает документы, к которым у сотрудника нет доступа; скрытая инструкция в загруженном файле
Что ставим
Главный риск
Агент выполняет лишнее действие по инструкции из письма или веб-страницы
Что ставим
Главный риск
Раскрытие системных инструкций, ответы вне темы, лишние персональные данные в диалоге
Что ставим
Главный риск
Несоответствие пунктам 60 и 61 Требований, утверждённых приказом ФСТЭК России № 117
Что ставим
Средства защиты дают результат, когда понятно, какие ИИ-сервисы есть в компании и что сотрудникам разрешено. Поэтому работу строим по шагам и начинаем с того, что уже сделано у вас.
Находим, какие нейросети и ИИ-системы используются, какие данные в них уходят и где уязвимости.
Аудит ИИ-системФиксируем правила: какие сервисы разрешены, какие данные в них нельзя передавать, кто отвечает.
Регламент ИИПереводим правила регламента в настройки AI-шлюза, маскирования, guardrails и прав агентов.
Средства защитыПодключаем журнал ИИ к SIEM и разбираем срабатывания, правила обновляем по результатам.
Обсудить мониторингАктуально на 9 ноября 2026 года: Требования ФСТЭК России сверены с редакцией, учитывающей приказ № 137 от 08.05.2026; 152-ФЗ сверен с редакцией от 26.07.2026.
Приказ ФСТЭК России № 117 запрещает передавать лицу, разработавшему модель искусственного интеллекта, информацию ограниченного доступа, в том числе для улучшения работы модели (пункт 60 Требований). Пункт 61 требует задать шаблоны или допустимые тематики запросов к ИИ, форматы ответов, статистические критерии недостоверных ответов и порядок реагирования на них. Требования действуют для ГИС, систем госорганов, ГУП и госучреждений.
Требования ФСТЭК к ИИЕсли персональные данные уходят в нейросеть иностранной компании, это может быть трансграничной передачей: так пункт 11 статьи 3 152-ФЗ называет передачу данных иностранному юрлицу на территорию иностранного государства. До начала такой передачи оператор обязан уведомить уполномоченный орган по защите прав субъектов персональных данных, то есть Роскомнадзор (часть 3 статьи 12). Российскому сервису обработку поручают по договору и, по общему правилу, с согласия субъекта (часть 3 статьи 6).
ИИ и персональные данные
Рынок средств защиты ИИ меняется быстрее, чем выходят обзоры, поэтому Кредо-С не привязывает проект к одному производителю. Описываем, какие функции нужны вашим сценариям, сравниваем подходящие отечественные и открытые решения, проверяем выбранное на пилоте и только потом готовим спецификацию на закупку.
Выберите формат и оставьте заявку в форме ниже. В комментарии напишите, какие ИИ-сервисы уже используются в компании: так мы подготовимся к первому разговору.
Разберём ваши сценарии ИИ и риски, подскажем, с чего начать.
Получить консультациюПроверим защиту на одном вашем сценарии до решения о закупке.
Обсудить пилотОтправить заявку на сотрудничество
Я соглашаюсь на обработку персональных данных
Хочу получать новости и полезные материалы на email - необязательно
ООО «КРЕДО-С» · ИНН 7106014366 · КПП 710601001 · ОГРН 1027100747596 · на рынке с 1993 года · 300034, г. Тула, ул. Демонстрации, 27 · офисы: Тула, Москва
300034, г. Тула, ул. Демонстрации, 27
офисы: Тула, Москва
ООО «КРЕДО-С»ИНН 7106014366КПП 710601001ОГРН 1027100747596300034, г. Тула, ул. Демонстрации, 27офисы: Тула, Москвана рынке с 1993 года