Риски внедрения ИИ в компании: карта рисков и чек-лист снижения

Сотрудники уже вставляют договоры и клиентские базы в публичные нейросети – с ведома компании или без. Риски внедрения ИИ делятся на пять доменов: утечки данных через внешние сервисы, shadow AI, галлюцинации в бизнес-решениях, зависимость от вендора и регуляторные требования – с 2025 года действуют оборотные штрафы за утечки, с марта 2026-го – приказ ФСТЭК № 117. Каждый домен закрывается конкретными мерами, большинство – организационные, а не дорогие технические. В статье – карта рисков для CISO и ИТ-директора, классификация ИИ-приложений по уровню риска и чек-лист из 13 шагов.

Карта рисков внедрения ИИ: пять доменов

Управление рисками ИИ начинается с инвентаризации: какие нейросети используются, какие данные в них попадают, кто принимает решения на основе ответов. Дальше риски раскладываются по пяти доменам – у каждого свой владелец и набор мер.

Домен 1. Утечки данных через публичные нейросети

Публичный чат-бот – внешний сервис, которому вы добровольно передаёте всё, что ввели в окно запроса. Провайдер может использовать эти данные для дообучения – после чего фрагменты способны всплыть в ответах другим пользователям, – хранить их на зарубежных серверах или потерять при инциденте на своей стороне. Для компании это два самостоятельных риска.

Персональные данные. Ввод ФИО, телефонов, паспортных данных клиентов в публичную нейросеть – передача ПДн третьему лицу, на которую у оператора обычно нет правового основания. Правовую сторону ПДн в нейросетях – согласия, поручение обработки, основания – разбираем в отдельной статье, а с точки зрения операционного риска задача одна: технически и организационно исключить попадание ПДн во внешние сервисы. Найти, где в процессах ПДн утекают в нейросети, помогает аудит соответствия 152-ФЗ.

Коммерческая тайна. Режим коммерческой тайны по 98-ФЗ держится на ограничении доступа к информации. Передача финмоделей, условий сделок или исходного кода во внешний ИИ-сервис, с которым нет соглашения о конфиденциальности, ставит режим под вопрос – вместе с возможностью взыскать ущерб за разглашение.

Ориентир дал регулятор: приказ ФСТЭК России № 117 (требования к защите информации в госсистемах, действуют с 1 марта 2026 года) в пункте 60 прямо запрещает передавать разработчику ИИ-модели информацию ограниченного доступа – в том числе для дообучения. Формально документ обязателен для госсистем, частным компаниям стоит взять принцип за основу регламента.

Домен 2. Shadow AI: сотрудники уже используют нейросети

Shadow AI – использование ИИ-сервисов без ведома ИБ-службы: личные аккаунты в чат-ботах, браузерные расширения, «умные» функции SaaS. Опасность в невидимости: ИБ-служба не знает, какие данные куда уходят, – ни предотвратить инцидент, ни расследовать.

Минимальный набор мер – основа безопасности ИИ в компании, глубокого технического проекта он не требует:

• регламент использования ИИ: какие сервисы разрешены, какие данные запрещено вводить, кто согласует новые инструменты;
• инвентаризация: анализ веб-трафика и опрос подразделений – какие нейросети реально используются;
• корпоративная альтернатива: согласованный сервис с договором и настройками приватности – запреты без альтернативы не работают;
• обучение сотрудников основам безопасности ИИ: люди нарушают правила чаще по незнанию, чем по злому умыслу.

Технический контроль каналов утечки – включая ввод данных в веб-формы нейросетей – закрывает внедрение DLP-системы; для старта достаточно регламента, инвентаризации и обучения.

Домен 3. Галлюцинации в бизнес-решениях

Нейросеть уверенно выдумывает факты: несуществующие ГОСТы, ложные характеристики оборудования, вымышленные условия поставщиков. Пока сотрудник проверяет ответ – это инструмент. Когда ответ без проверки попадает в договор, коммерческое предложение или закупочную заявку – это операционный риск с прямым денежным выражением.

Риск растёт с автономностью: ИИ-агенты, которые сами отправляют письма, вносят данные в системы и инициируют платежи, превращают единичную галлюцинацию в цепочку ошибочных операций. Чем выше автономность, тем строже контроль.

Часть мер прямо требует п. 61 Требований, утверждённых приказом ФСТЭК № 117: задать шаблоны запросов и ответов либо допустимые тематики для свободной формы, разработать критерии выявления недостоверных ответов и реагировать на них ограничением области принимаемых решений. Остальное добавляет практика:

• правило «человек в контуре»: решения с денежными или юридическими последствиями проверяет сотрудник (приказ такой формулировки не содержит, но требует ограничивать область решений на основе недостоверных ответов);
• допустимые тематики и шаблоны запросов: ИИ отвечает только внутри заданной области, выход за неё блокируется;
• контроль ответов: критерии выявления недостоверных и порядок реагирования;
• логирование: все запросы и ответы фиксируются – без этого инцидент не расследовать; сам журнал защищайте как хранилище чувствительных данных: ограниченный доступ, срок хранения.

Домен 4. Регуляторные риски

Регуляторная нагрузка на ИИ формируется – планируйте с запасом на ужесточение. Для операционной карты достаточно трёх ориентиров, детали – в профильных статьях.

152-ФЗ действует уже сегодня. Зарубежный облачный ИИ, обрабатывающий ПДн, – трансграничная передача: нужно предварительное уведомление Роскомнадзора (ст. 12 152-ФЗ), а базы ПДн россиян – на территории России (ч. 5 ст. 18). Подробно о ПДн при работе с ИИ – в отдельной статье; операционный вывод один: исключить ввод ПДн во внешние ИИ-сервисы.

Пункты 60–61 Требований, утверждённых приказом ФСТЭК № 117 – первые конкретные требования к защите информации при использовании ИИ: от запрета передавать данные разработчику модели до контроля ответов. Формально – только для ГИС, по сути – ориентир для любого регламента.

Эти формулировки могут измениться. 24 августа 2026 года ФСТЭК России разместила на regulation.gov.ru проект изменений в приказ № 117 (ID 170500) с датой вступления по проекту 1 марта 2027 года. В нём шаблонов запросов и критериев недостоверных ответов уже нет, зато появляются выделенный сегмент для моделей, многофакторная аутентификация привилегированного доступа и меры для ИИ-агентов, а для систем с информацией ограниченного доступа или значимыми функциями — фильтрация и квоты на запросы. Пока проект не принят, действует текущая редакция. Разбор — в статье «Что ФСТЭК требует по безопасности ИИ».

Закон об ИИ. Федеральный закон от 26 июля 2026 года № 243-ФЗ о поддержке развития технологий искусственного интеллекта действует с 1 сентября 2026 года – рамочный, с понятиями ИИ и мерами господдержки, без жёстких запретов; отложенные статьи 8–10 заработают с 1 марта 2027 года. Роль регулятора в сфере ИИ закон отводит Минцифры. Что в законе и как готовиться – в отдельном разборе; для ЛПР важно одно: выстроенный сегодня контур управления рисками ИИ завтра станет обязательным минимумом.

Домен 5. Зависимость от вендора

Внешний ИИ-API – это зависимость от поставщика, которой компания не управляет. Для российских компаний сценарий отключения не гипотеза: зарубежные провайдеры уже ограничивали доступ из РФ, и процессы, завязанные на их модели, останавливались в один день. Сюда же – смена тарифов и условий, деградация качества после обновления модели, привязка интеграций к конкретному API и инциденты на стороне провайдера, когда чужие данные оказываются в открытом доступе. Отдельный риск – open-source модели из непроверенных источников с закладками или отравленными весами.

Меры прагматичные: слой абстракции над API, чтобы смена провайдера не требовала переписывать интеграции; выгрузка промптов и данных в переносимом формате; требования конфиденциальности и уведомления об инцидентах в договоре; запасной сценарий работы без ИИ для критических процессов; для open-source моделей – загрузка только из проверенных реестров с контролем целостности.

Классификация ИИ-приложений по уровню риска

Оценка рисков ИИ упрощается, если каждый сервис отнести к одному из трёх уровней и применять соразмерный контроль – не душить низкорисковые сценарии и не пропускать высокорисковые.

Для высокорискового уровня отправная точка – модель угроз для ИИ-систем: она показывает, какие сценарии атак и отказов актуальны для вашего контура, и не даёт тратить бюджет на несуществующие угрозы.

Чек-лист: 13 шагов снижения рисков ИИ

1. Проведите инвентаризацию ИИ-сервисов – включая личные аккаунты сотрудников и встроенные ИИ-функции SaaS.
2. Классифицируйте каждый сервис по уровню риска: высокий, средний, низкий.
3. Утвердите регламент использования ИИ: разрешённые сервисы, запрещённые данные, порядок согласования новых инструментов.
4. Запретите ввод ПДн, коммерческой тайны и учётных данных в публичные нейросети, закрепив запрет в регламенте и трудовых документах.
5. Дайте сотрудникам корпоративную альтернативу: сервис с договором, соглашением о конфиденциальности и отключённым дообучением на ваших данных.
6. Подготовьте exit-план для внешних ИИ-сервисов: слой абстракции над API, право выгрузки данных в договоре, запасной сценарий без ИИ для критических процессов.
7. Для высокорисковых систем постройте модель угроз и определите меры до запуска, а не после инцидента.
8. Внедрите правило «человек в контуре» для всех решений с денежными и юридическими последствиями.
9. Ограничьте тематики и форматы запросов и ответов – по логике п. 61 Требований, утверждённых приказом ФСТЭК № 117.
10. Настройте логирование запросов и ответов ИИ-систем – с ограниченным доступом к журналу и сроком хранения.
11. Проверьте трансграничную передачу и локализацию ПДн, если ИИ-сервис зарубежный: уведомление Роскомнадзора, базы на территории РФ.
12. Обучите сотрудников: какие данные нельзя вводить, как распознавать галлюцинации, куда сообщать об инцидентах.
13. Проверьте защищённость ИИ-контура на практике – тестирование на проникновение покажет, устоит ли контур перед реальным атакующим; ИИ-специфичные векторы вроде промпт-инъекций включаются в скоуп по согласованию.

Пересматривайте карту рисков и чек-лист минимум раз в полгода: новые ИИ-сервисы и требования регуляторов появляются быстрее, чем обновляются классические ИТ-системы.

Санкции: сколько стоит нарушение

Денежное измерение риска задаёт ст. 13.11 КоАП РФ: обработка ПДн без письменного согласия, когда оно обязательно – 300–700 тыс. руб. для юрлица, нарушение локализации – 1–6 млн, сам факт утечки – 3–15 млн в зависимости от масштаба, повторная – оборотный штраф 1–3% выручки (20–500 млн). Полный разбор составов – в статье об ИИ и персональных данных. Один запрос сотрудника с базой клиентов способен запустить эту цепочку – дешевле выстроить контроль заранее.

Не уверены, где в вашей компании ИИ уже создаёт риски? Проведём аудит информационной безопасности с фокусом на ИИ-контур: найдём shadow AI, покажем каналы утечки и подскажем, где их технически закроет DLP. Если в компании уже работают ИИ-агенты или LLM-приложения, аудит безопасности ИИ-систем проверит их права, изоляцию и устойчивость к промпт-инъекциям. «Кредо-С» – лицензиат ФСТЭК России. Оставьте заявку – передадим карту рисков вашего контура с приоритизированным планом мер.

Читайте также

• Модель угроз для систем с ИИ
• ИИ и персональные данные: требования 152-ФЗ
• Закон об ИИ 2026: что меняется для бизнеса