У блозі Shtab опублікували розбір ризиків, пов’язаних із передаванням корпоративної інформації зовнішнім ШІ-сервісам. Практичний висновок простий, але не декоративний: безпека залежить не лише від обраної моделі, а й від того, які дані їй надсилають, хто має до них доступ і що відбувається після запиту.

Автор пропонує оцінювати дані за двома параметрами: якої шкоди завдасть їх витік і чи можна буде виправити наслідки. Відкриті матеріали компанії майже не додають ризику, адже вже доступні публічно. Внутрішні документи без комерційної таємниці чи персональних даних становлять помірніший ризик, тоді як вихідний код, плани продуктів і фінансові звіти можуть дати перевагу конкурентам.

Найчутливішими автор називає персональні дані, медичну, банківську та державну таємницю. Для організацій, які працюють із такими відомостями, наслідки можуть включати юридичну відповідальність, фінансові втрати й репутаційну шкоду. У випадку державної таємниці ризик поширюється і на працівників, які мають відповідний допуск. Це не категорії для експерименту за принципом «спочатку вставимо в чат, потім розберемося».

Ризик виникає не лише під час навчання моделі

Один із механізмів — використання користувацьких діалогів для навчання моделей. У матеріалі зазначено, що така опція зазвичай увімкнена у споживчих версіях популярних сервісів, тоді як корпоративні продукти можуть пропонувати її вимкнення. Проте працівник може розв’язувати робоче завдання з особистого облікового запису й не перевірити налаштування. Тоді корпоративна політика на папері не змінює шлях, яким дані залишають компанію.

Як приклад автор наводить випадок Samsung: у березні 2023 року інженерам дозволили користуватися ChatGPT, а протягом перших трьох тижнів сталося три інциденти. Працівники передали сервісу вихідний код, код для виявлення дефектного обладнання та розшифровку наради. За описом у статті, ці дані потрапили на сервери OpenAI й могли використовуватися для навчання. Samsung згодом обмежила використання генеративного ШІ на робочих пристроях і у внутрішній мережі, але цей захід не міг скасувати вже здійснені передавання.

Є й інший клас проблем: помилки постачальника можуть зробити чати доступними іншим користувачам або пошуковим системам. У статті згадано збій ChatGPT у 2023 році, під час якого відкрилися заголовки чужих розмов і частина персональних та платіжних відомостей підписників. Також описані випадки індексації розмов ChatGPT у пошуку в липні 2025-го, а згодом — подібні ситуації з Grok та DeepSeek. Автор пов’язує їх із функціями поширення чатів: опція, яка виглядає як звичайне посилання, може змінити аудиторію розмови значно ширше, ніж очікував користувач.

Передавання до вендора створює залежність від його процедур зберігання, доступу й обробки даних. У матеріалі також згадано судовий спір The New York Times з OpenAI щодо використання статей для навчання. За описом автора, під час розгляду суд вимагав зберігати журнали розмов, зокрема видалені користувачами, а пізніше — надати вибірку з 20 мільйонів знеособлених діалогів. Цей приклад показує, що видалення чату в інтерфейсі не обов’язково означає зникнення даних з усіх систем чи контекстів.

Агенти додають окрему поверхню атаки, якщо отримують доступ до пошти, дисків або корпоративних переписок. Стаття описує знайдену у 2025 році вразливість Microsoft 365 Copilot: зловмисне листування зі прихованими інструкціями могло спонукати асистента з доступом до пошти зібрати чутливий контекст і передати його на зовнішній сервер. Microsoft усунула проблему на своєму боці; інформації про те, чи встигли нею скористатися, у матеріалі немає. Тут важливо не плутати зручність інтеграції з безкоштовним розширенням довіри: кожен додатковий доступ має бути обґрунтований.

Що може зробити компанія

Перший варіант — розгорнути мовну модель у власному контурі або на виділеній інфраструктурі. Такий підхід зменшує потребу передавати запити сторонньому сервісу, але потребує ресурсів на обладнання й підтримку. Для компанії без відповідної команди це може бути суттєвою перешкодою. Альтернатива — корпоративний API із чіткими договірними умовами щодо зберігання даних; сам факт корпоративного тарифу ще не пояснює, де саме обробляються запити та які правила застосовує постачальник.

Другий захід — мінімізувати й знеособлювати вхідні дані. Замість повного звіту моделі можна передати лише потрібний фрагмент; імена, назви проєктів і фінансові показники — вилучити, якщо вони не потрібні для завдання. Це знижує обсяг інформації, яка може розкритися, хоча не усуває ризик повністю. Для коду цей підхід складніший: навіть без імен і коментарів його структура може розкривати комерційно важливі відомості. Менший контекст також може погіршити відповідь, тож результат потребує перевірки.

Технічним доповненням може бути проксі між працівником і моделлю. Він здатен виявляти типові чутливі дані — наприклад, номери карток, паспортні відомості чи ключі API — та маскувати або блокувати запит. Такий шлюз не розпізнає кожну можливу формулювання й не замінює класифікацію даних, але додає контроль там, де людська помилка цілком передбачувана. Автоматизація не прибирає потреби стежити за політикою доступу та переглядати журнали використання.

Людська перевірка потрібна до і після звернення до моделі. Перед запитом слід оцінити, чи справді можна передавати його вміст; після відповіді — перевірити факти та не дозволити вигаданим твердженням перейти в лист, документ або публікацію. У статті наведено приклади помилкових відповідей чат-ботів, зокрема випадок Air Canada 2024 року, коли бот повідомив пасажиру про знижку, якої не було в правилах компанії, і суперечка дійшла до суду.

Заборона на ШІ сама по собі не гарантує, що працівники перестануть ним користуватися: особистий телефон і обліковий запис залишаються поза робочим пристроєм. Тому автор радить не обмежуватися заборонами, а надавати контрольований інструмент із відповідними правами доступу. Іронія тут суто інженерна: політика, яку можна обійти одним смартфоном, добре виглядає в документі, але слабко працює як захист.

Перед вибором сервісу компанії варто визначити класи даних, перевірити, які моделі використовує продукт, і прочитати умови обробки, зберігання та доступу до чатів. Також потрібно з’ясувати, чи успадковує асистент права користувача: якщо ні, він може показати працівникові матеріали, яких той не мав би бачити. Для критичних даних базовим критерієм має бути не обіцянка «безпечного ШІ», а зрозумілий ланцюг обробки та обсяг інформації, який компанія готова передати за його межі.