В блоге Shtab опубликовали разбор рисков, связанных с передачей корпоративной информации внешним ИИ-сервисам. Практический вывод прост, но не для галочки: безопасность зависит не только от выбранной модели, но и от того, какие данные ей отправляют, кто имеет к ним доступ и что происходит после запроса.
Автор предлагает оценивать данные по двум параметрам: какой вред нанесёт их утечка и можно ли будет исправить последствия. Открытые материалы компании почти не добавляют риска, поскольку уже доступны публично. Внутренние документы без коммерческой тайны или персональных данных несут умеренный риск, тогда как исходный код, планы продуктов и финансовые отчёты могут дать конкурентам преимущество.
Самыми чувствительными автор называет персональные данные, медицинскую, банковскую и государственную тайну. Для организаций, работающих с такими сведениями, последствия могут включать юридическую ответственность, финансовые потери и репутационный ущерб. В случае государственной тайны риск распространяется и на сотрудников с соответствующим допуском. Это не категории для эксперимента по принципу «сначала вставим в чат, потом разберёмся».
Риск возникает не только во время обучения модели
Один из механизмов — использование пользовательских диалогов для обучения моделей. В статье отмечается, что такая опция обычно включена в потребительских версиях популярных сервисов, тогда как корпоративные продукты могут предлагать её отключить. Однако сотрудник может решать рабочую задачу из личной учётной записи и не проверить настройки. Тогда корпоративная политика на бумаге никак не меняет путь, по которому данные покидают компанию.
В качестве примера автор приводит случай Samsung: в марте 2023 года инженерам разрешили пользоваться ChatGPT, и в течение первых трёх недель произошло три инцидента. Сотрудники передали сервису исходный код, код для обнаружения неисправного оборудования и расшифровку совещания. Согласно описанию в статье, эти данные попали на серверы OpenAI и могли использоваться для обучения. Позже Samsung ограничила использование генеративного ИИ на рабочих устройствах и во внутренней сети, но эта мера не могла отменить уже состоявшиеся передачи.
Есть и другой класс проблем: ошибки поставщика могут сделать чаты доступными другим пользователям или поисковым системам. В статье упоминается сбой ChatGPT в 2023 году, во время которого открылись заголовки чужих разговоров и часть персональных и платёжных данных подписчиков. Также описаны случаи индексации разговоров ChatGPT в поиске в июле 2025-го, а позднее — похожие ситуации с Grok и DeepSeek. Автор связывает их с функциями распространения чатов: опция, которая выглядит как обычная ссылка, может значительно расширить аудиторию разговора — куда сильнее, чем ожидал пользователь.
Передача данных поставщику создаёт зависимость от его процедур хранения, доступа и обработки информации. В статье также упоминается судебный спор The New York Times с OpenAI об использовании статей для обучения. По описанию автора, в ходе разбирательства суд потребовал хранить журналы разговоров, в том числе удалённых пользователями, а позднее — предоставить выборку из 20 миллионов обезличенных диалогов. Этот пример показывает, что удаление чата в интерфейсе не обязательно означает исчезновение данных из всех систем или контекстов.
Агенты создают отдельную поверхность атаки, если получают доступ к почте, дискам или корпоративной переписке. В статье описана обнаруженная в 2025 году уязвимость Microsoft 365 Copilot: вредоносная переписка со скрытыми инструкциями могла побудить ассистента с доступом к почте собрать чувствительный контекст и передать его на внешний сервер. Microsoft устранила проблему на своей стороне; сведений о том, успели ли ей воспользоваться, в материале нет. Здесь важно не путать удобство интеграции с бесплатным расширением доверия: каждый дополнительный доступ должен быть обоснован.
Что может сделать компания
Первый вариант — развернуть языковую модель в собственном контуре или на выделенной инфраструктуре. Такой подход уменьшает необходимость отправлять запросы стороннему сервису, но требует ресурсов на оборудование и поддержку. Для компании без соответствующей команды это может стать серьёзным препятствием. Альтернатива — корпоративный API с чёткими договорными условиями хранения данных; сам факт корпоративного тарифа ещё не объясняет, где именно обрабатываются запросы и какие правила применяет поставщик.
Вторая мера — минимизировать и обезличивать входные данные. Вместо полного отчёта модели можно передать только нужный фрагмент; имена, названия проектов и финансовые показатели — убрать, если для задачи они не нужны. Это сокращает объём информации, которая может раскрыться, хотя и не устраняет риск полностью. С кодом этот подход сложнее: даже без имён и комментариев его структура может раскрывать коммерчески важные сведения. Меньший контекст также может ухудшить ответ, поэтому результат нужно проверять.
Техническим дополнением может стать прокси между сотрудником и моделью. Он способен обнаруживать типичные чувствительные данные — например, номера карт, паспортные данные или ключи API — и маскировать либо блокировать запрос. Такой шлюз не распознает все возможные формулировки и не заменяет классификацию данных, но добавляет контроль там, где человеческая ошибка вполне предсказуема. Автоматизация не отменяет необходимости следить за политикой доступа и просматривать журналы использования.
Проверка человеком нужна до и после обращения к модели. Перед запросом следует оценить, действительно ли можно передавать его содержимое; после ответа — проверить факты и не допустить, чтобы выдуманные утверждения перекочевали в письмо, документ или публикацию. В статье приведены примеры ошибочных ответов чат-ботов, в том числе случай Air Canada 2024 года, когда бот сообщил пассажиру о скидке, которой не было в правилах компании, и спор дошёл до суда.
Запрет на ИИ сам по себе не гарантирует, что сотрудники перестанут им пользоваться: личный телефон и учётная запись остаются за пределами рабочего устройства. Поэтому автор советует не ограничиваться запретами, а предоставлять контролируемый инструмент с соответствующими правами доступа. Ирония тут сугубо инженерная: политику, которую можно обойти одним смартфоном, приятно видеть в документе, но как защита она работает так себе.
Перед выбором сервиса компании стоит определить классы данных, проверить, какие модели использует продукт, и прочитать условия обработки, хранения и доступа к чатам. Также нужно выяснить, наследует ли ассистент права пользователя: если нет, он может показать сотруднику материалы, которые тот не должен был бы видеть. Для критически важных данных базовым критерием должно быть не обещание «безопасного ИИ», а понятная цепочка обработки и объём информации, который компания готова передать за её пределы.









