Как защитить корпоративные данные при использовании ChatGPT и других облачных ИИ

Провайдеры используют данные пользователей для дообучения и обучения с подкреплением на основе обратной связи от человека. В бесплатной версии ChatGPT история диалогов по умолчанию попадает в обучающий набор данных. ChatGPT Plus позволяет OpenAI использовать ваши данные для улучшения сервиса, если вы не снимите флажок в настройках. Чем это опасно?

Ваши данные могут всплыть у других пользователей. В марте 2023 года из-за ошибки в ChatGPT некоторые пользователи увидели фрагменты чужих диалогов, а также имена, адреса электронной почты, последние цифры банковских карт.

Данные остаются в журналах и могут быть запрошены регуляторами. Всё, что вы пишете в облачный сервис, хранится на серверах провайдера месяцами. Это означает, что при судебном запросе, аудите или расследовании регулятор может получить доступ к вашим запросам. Если там окажутся персональные данные клиентов или коммерческая тайна — это нарушение законодательства о защите данных (152-ФЗ в России, Общий регламент защиты персональных данных (GDPR) в Европе) и репутационный удар.

Данные могут быть скомпрометированы при взломе или индексации. В июле 2025 года Google внезапно стал индексировать публичные ссылки из ChatGPT. В поисковой выдаче оказались API-ключи, пароли, личные истории пользователей, которые делились ссылками на свои диалоги. Если сотрудник случайно поделился чатом с коммерческой информацией — она может попасть в открытый доступ.

Риски при передаче данных. OpenAI, Google, Anthropic обещают не использовать данные в бесплатных версиях на обучение моделей. Но это не значит, что данные защищены во время передачи и хранения. Данные передаются по интернету. Даже при шифровании по протоколу TLS версии 1.2 и выше есть риски атак с перехватом обмена данными, перехвата на стороне промежуточного оборудования, скомпрометированных сертификатов.

Риски при хранении и обработке. На серверах провайдера ваш текст лежит в открытом виде в течение сессии (а иногда и дольше для отладки). Журналы запросов хранятся месяцы. Для киберпреступников это возможности.

ChatGPT Enterprise решает часть проблем: данные не служат обучению модели, история удаляется быстрее, есть единый вход (SSO) и расширенные журналы администратора. Но это дорого, и даже Enterprise — это облако, которое ваша компания не контролирует.

Корпоративные данные в ИИ — это и резюме кандидатов, и клиентская база с телефонами, и фрагменты исходного кода, и контрактные условия, и финансовые отчёты. Даже невинный на первый взгляд запрос вроде «Помоги написать письмо клиенту компании X про проект Y» уже содержит информацию о структуре бизнеса.

На практике же сотрудники могут отдавать в большие языковые модели куда более серьёзные данные.

Сотрудники используют ИИ через личные аккаунты, минуя корпоративные инструменты. ИТ-департамент и служба безопасности не могут контролировать такие утечки. При этом компания всё равно несёт ответственность за последствия. Если сотрудник загрузит в ChatGPT базу с персональными данными или финансовые отчёты, это нарушение 152-ФЗ или Общего регламента защиты персональных данных (GDPR) — со штрафами до 500 млн рублей или 4 % от оборота компании. Если данные утекут или будут скомпрометированы, репутационный ущерб ляжет на компанию, а не на сотрудника.

В 2025 году страховая компания в США за четыре дня обнаружила 27 несанкционированных ИИ-сервисов. Один из них ставил под угрозу лицензию всей компании. Похожая ситуация произошла в одной медтех-компании: врачи использовали ИИ для диагностики, но нарушали требования американского закона о переносимости и подотчётности медицинского страхования (HIPAA) — и компания рисковала судебными исками.

Разработчик вводит в ChatGPT фрагмент исходного кода — например, чтобы найти ошибку. В коде — имена переменных, структура проекта, бизнес-логика. Всё это уходит в облако корпорации-провайдера. И мы не знаем, что с ними может произойти впоследствии.

Социальная инженерия. Нейросеть хорошо пересказывает. Задав ей серию вопросов, можно извлечь из истории диалогов другого пользователя фрагменты данных, попавшие туда описанными выше путями.

Обход защитных ограничений модели, внедрение вредоносных инструкций в запрос, отравление данных. Если в публичный ChatGPT в большом количестве попадает, например, вредоносный код, образцы документов с ошибками или юридическими «дырами» — модель может предложить всё это в ответ на запрос обычного пользователя.

Защита работает на нескольких слоях. Нужно сочетать несколько мер:

Это не новая технология, но она хорошо эволюционировала с появлением генеративного ИИ. Система DLP следит за тем, что пользователь пытается отдать в облако, и блокирует отправку чувствительных данных. Система следует корпоративной политике — например, запрещающей отдавать контакты клиентов в сторонние сервисы. Её можно научить распознавать номера кредитных карт и ИНН по шаблонам или определять сущности по смыслу (с помощью NER, распознавания именованных сущностей).

Перед отправкой в ИИ вы заменяете реальные имена, номера, даты на условные обозначения ([ИМЯ], [КАРТА], [ДАТА]). Большая языковая модель работает с условными обозначениями, а не настоящими данными.

ChatGPT Enterprise позволяет:

• Включить SSO (единый вход) и контролировать, кто использует сервис;
• Настроить интеграцию по стандарту управления учётными записями SCIM и синхронизировать права доступа с вашей системой управления пользователями;
• Проверять панель администратора: журналы использования, активность по сотрудникам, детали запросов.

Один из вариантов защиты — запуск своей модели либо в приватном облаке (изолированный контур), либо на собственных серверах. Такой подход требует компетенций и ресурсов. Альтернатива дешевле — сторонние модели на базе облаков, но с изоляцией данных.

Вместо того чтобы передавать в ИИ весь документ, вы даёте модели только релевантные фрагменты из вашей базы. Модель работает в «стерильной» среде, не затрагивая исходных данных.

Технологические меры необходимо подкреплять корпоративными правилами. Следующие практики помогут компании защититься от рисков, связанных с данными и ИИ.

Регламент использования ИИ. Зафиксируйте в регламенте, какие сервисы разрешены, какие нет. Что можно передавать, что — категорически нет. Какие роли могут использовать ChatGPT Pro/Enterprise, а какие — вообще не должны.

Обучение сотрудников. Недостаточно утвердить регламент: сотрудники должны понимать, почему он важен. Краткий тренинг по рискам утечек, примеры ошибок других компаний, демонстрация того, как можно извлечь из нейросети контекст — это сработает лучше подписи под регламентом.

Мониторинг и аудит. Если вы используете ChatGPT Enterprise или DLP-систему, проверяйте журналы. Аномалии нужно расследовать.

Нулевое доверие к облачным ИИ. Любой сервис необходимо проверять, включая решения OpenAI. Если вы оперируете данными, сохранность которых критична, они не должны попадать в публичные сервисы вообще — только в контролируемые вами системы.

Шаг 1. Провести аудит. Какие данные у вас есть? Какие из них критичные? Какие системы сейчас используют ИИ? Это можно сделать через опрос и регистрацию сетевой активности.

Шаг 2. Выбрать правильные инструменты. Если критичные данные можно разделить на две категории — те, что можно отправлять в облако (с маскированием), и те, что не должны туда идти вообще, — то достаточно DLP. Если нужна полная изоляция — ищите решения на собственных серверах.

Шаг 3. Утвердить политику. Подготовьте краткий и понятный регламент, например чек-лист: «5 вещей, которые нельзя делать в ChatGPT».

Шаг 4. Обучить людей. Вебинар на 30 минут, примеры, вопросы-ответы. После этого внедрить политику в бизнес-процессы: например, настроить бота в корпоративном мессенджере, который предупредит сотрудника о риске при попытке поделиться ссылкой на конфиденциальный документ.

Шаг 5. Выбрать решение. Первый шаг — переход на ChatGPT Enterprise для тех, кому он действительно нужен. Затем внедрение систем предотвращения утечек для браузера и почты. Следом постепенное усиление — модели на собственных серверах для исследований и разработки, закупка корпоративных лицензий GigaChat или YandexGPT в РФ.

Генеративный искусственный интеллект — полезный инструмент. Но, как и любым инструментом, им нужно уметь пользоваться. Защита корпоративных данных при использовании больших языковых моделей — это комбинация технологий (DLP, маскирование, управление доступом), архитектурных решений (собственные серверы, приватное облако) и культуры (обучение, политика, мониторинг).