Утечки данных через ИИ: что это такое, риски, сценарии и защита от новых угроз

Сотрудники все чаще решают рабочие задачи через ChatGPT, DeepSeek, Copilot и другие нейросети — вставляют туда фрагменты договоров, персональные данные клиентов и исходный код. Совместное исследование УЦСБ и группы компаний «Солар» показало: половина российских компаний уже подозревает или фиксирует утечки данных через ИИ. Рассказываем, какие сценарии утечек данных ИИ встречаются чаще всего, как их распознать и что делать, чтобы конфиденциальная информация не оказалась в чужой базе знаний.

Как ИИ стал новым каналом утечки корпоративных данных

Еще недавно периметр компании защищали через контроль почты, мессенджеров и переносных накопителей. Эти каналы были предсказуемы, и служба безопасности успевала заметить подозрительную пересылку до того, как файл покидал периметр. Массовое использование нейросетей ситуацию изменило: сотрудник открывает чат-бота в браузере, вставляет туда фрагмент документа и получает готовый ответ за несколько секунд. Сам запрос не проходит ни через почтовый шлюз, ни через корпоративный мессенджер.

Исследование «Солара», проведенное совместно с УЦСБ, зафиксировало масштаб проблемы: 42% опрошенных компаний подозревают утечку конфиденциальных данных через ИИ-инструменты, хотя не могут ее подтвердить, а еще 8% столкнулись с подтвержденными случаями утечки данных ИИ. Это значит, что каждая вторая российская компания уже находится в зоне риска — даже если формальный запрет на использование нейросетей внутри действует, сотрудники продолжают пользоваться ими на личных устройствах или через личные аккаунты.

Основные причины утечки данных ИИ можно свести к отсутствию контроля над отдельным каналом связи. Классические DLP-политики исторически писались под почту и мессенджеры и почти никогда не учитывали браузерные чаты с нейросетями. Пока в компании не появится отдельная политика по работе с ИИ-сервисами, сотрудники будут воспринимать чат-бота как обычный поисковик и вставлять туда любые данные, которые помогают быстрее получить ответ. Утечка данных из-за ИИ в такой ситуации становится лишь вопросом времени. Одних технических ограничений недостаточно. Без актуализации ИБ-регламента под работу с внешними ИИ-сервисами и без обучения сотрудников правилам безопасной работы с ними разрыв между политикой на бумаге и тем, что реально происходит на рабочих местах, продолжит расти.

Разминка перед проверкой регулятора

Скачайте чек-лист для аудита файлов и коммуникаций сотрудников с ИИ-сервисами и готовый шаблон уведомления об инциденте — пригодится, если утечка уже произошла.

Основные сценарии утечек через ИИ-инструменты

Утечка данных через ИИ чаще всего происходит при работе в браузере, когда сотрудники работают с нейросетями напрямую. Разберем самые частые сценарии по отдельности: риски работы с чат-ботами, риски загрузки документов и техники промпт-инжиниринга.

ChatGPT и другие нейросети: риски для корпоративных данных

ChatGPT, Claude, DeepSeek и подобные сервисы обучаются на пользовательских диалогах по умолчанию, если компания не подключила корпоративный тариф с отключенным обучением. Любой фрагмент кода, письмо клиенту или служебная переписка, вставленные в чат для проверки или доработки, могут стать частью базы знаний модели и в теории всплыть в ответе для другого пользователя. Кроме того, эти данные могут оказаться в списке утекших и при взломе самого ИИ-сервиса — независимо от настроек обучения на диалогах, если у провайдера случится инцидент безопасности.

Проблема усугубляется тем, что сотрудники редко читают пользовательское соглашение сервиса и не знают, где физически хранятся серверы, куда попадают их запросы. Юрист, который просит нейросеть проверить проект договора с NDA, или бухгалтер, загружающий фрагмент отчетности для форматирования таблицы, действуют из лучших побуждений — но с точки зрения информационной безопасности оба случая ничем не отличаются от отправки документа на случайный внешний адрес.

Демо по контролю каналов утечек

Запросите демонстрацию Solar Dozor и узнайте, как система контролирует передачу конфиденциальных данных сотрудниками в чат-боты и облачные ИИ-сервисы.

Загрузка конфиденциальных документов в AI-сервисы

Кроме диалоговых чат-ботов, сотрудники все активнее используют сервисы, которые принимают на вход целый файл: PDF с финансовой моделью, презентацию для инвесторов, скан паспорта клиента для распознавания текста. Такой сервис обрабатывает документ на своей стороне, и после загрузки компания уже не контролирует, сколько копий файла осталось на серверах провайдера и как долго они там хранятся. Чаще всего в подобные сервисы попадают несколько типов документов.

Финансовая отчетность и внутренние презентации сотрудники загружают в ИИ-сервисы, чтобы быстро свести таблицы или подготовить выжимку для руководства.
Юридические документы с условиями NDA передаются на анализ формулировок, хотя сам договор запрещает показывать текст третьим лицам.
Персональные данные клиентов — паспортные данные, номера счетов, медицинские заключения — сотрудники загружают для распознавания текста или перевода.
Исходный код и техническую документацию инженеры отправляют на проверку синтаксиса или поиск уязвимостей, не задумываясь о том, что фрагмент кода становится доступен внешнему сервису.

Промпт-инжиниринг как способ извлечения данных

Отдельная категория риска связана с целенаправленными действиями: сотрудник или внешний злоумышленник специально формулирует запросы так, чтобы получить от корпоративного ИИ-ассистента данные, к которым у него не должно быть прямого доступа. Например, вместо прямого вопроса о зарплате коллеги пользователь просит модель обобщить данные по фонду оплаты труда отдела — и получает цифры, которые видеть не должен.

Утечка данных через запросы для искусственного интеллекта опасна тем, что формально выглядит как рабочий процесс: сотрудник просто общается с ассистентом, и отследить умысел сложно. Настроенные правила доступа и разграничение данных внутри корпоративных ИИ-инструментов снижают этот риск, но не убирают его полностью, если рядом остаются публичные версии тех же нейросетей.

Кто создает риск: сотрудники и злоумышленники

Риск для данных возникает с двух разных сторон: изнутри — когда штатный сотрудник использует ИИ без контроля и правил, и снаружи — когда взломанный аккаунт или перехваченный запрос дают доступ посторонним людям. Разберем оба сценария по отдельности.

Внутренние угрозы: сотрудники, использующие ИИ без контроля

Большинство случаев утечки информации от сотрудников не связаны со злым умыслом — сотрудник просто хочет решить задачу быстрее и не задумывается, куда уходит информация. Мониторинг действий сотрудников показывает, что чаще всего в зоне риска оказываются менеджеры, которые готовят презентации и отчеты, и разработчики, которые проверяют код через внешние ИИ-ассистенты.

Единственный рабочий подход строится вокруг контроля содержимого исходящего трафика — тогда неважно, через какой конкретно сервис сотрудник пытается передать данные, потому что блокировка по списку доменов слишком легко обходится соседним сайтом с похожим функционалом.

Внешние угрозы: взлом AI-аккаунтов и перехват запросов

Аккаунт в облачном ИИ-сервисе — такая же цель для злоумышленников, как почта или CRM: если пароль слабый или переиспользуется на нескольких сайтах, доступ к истории переписки с ассистентом получает посторонний человек. В истории запросов часто сохраняются черновики документов, куски кода и внутренние данные, которые сотрудник вставлял месяцами.

Отдельный вектор — перехват самого запроса при передаче, если сервис использует незащищенное соединение или сотрудник работает через публичный Wi-Fi без VPN. Компании, которые уже настроили защищенный удаленный доступ для сотрудников, автоматически снижают и этот риск: весь трафик идет через контролируемый шлюз независимо от того, откуда сотрудник подключается — из офиса, кафе или аэропорта.

Примеры реальных инцидентов утечек через ИИ

Один из самых показательных случаев — утечка информации через ИИ, которая произошла в 2023 году в южнокорейской Samsung Electronics. Инженеры полупроводникового подразделения получили разрешение использовать ChatGPT для решения рабочих задач — и за несколько недель допустили сразу несколько инцидентов.

Сначала инженер вставил в чат-бот фрагмент исходного кода, связанного с оборудованием, чтобы найти ошибку. Затем другой сотрудник поделился кодом, чтобы ускорить его проверку. Третий случай оказался особенно показательным: сотрудник попросил ChatGPT составить протокол совещания и загрузил туда запись с конфиденциальными деталями. Все три фрагмента стали частью базы знаний нейросети, и отозвать их обратно оказалось невозможно — Samsung в итоге запретила сотрудникам использовать генеративный ИИ на рабочих устройствах.

Похожие сценарии мы регулярно видим и в российских компаниях

Сотрудник не пытается навредить, он просто не считает переписку с нейросетью каналом передачи данных — и поэтому не применяет к ней те же правила, что к почте или мессенджеру.

Эксперты Solar Dozor

Российский рынок уже получил свой прецедент с юридическими последствиями: московскую сотрудницу, директора по продажам, уволили за разглашение коммерческой тайны — она пересылала служебные документы на личную почту через скрытую копию и часть файлов загрузила в DeepSeek. Сотрудница оспорила увольнение в суде и требовала компенсацию 5 млн руб., но суд признал ее действия грубым нарушением трудовых обязанностей и отклонил все требования.

Правовые и регуляторные риски при использовании ИИ

Утечка персональных данных клиентов через публичный ИИ-сервис — это еще и нарушение 152-ФЗ, если компания не может подтвердить, что приняла разумные меры для защиты информации. Регулятор не будет разбираться, произошла ли утечка через почту или через чат-бот: ответственность одинаковая, а объяснить утечку данных из-за ИИ будет сложнее, чем обычный инцидент, потому что данные, скорее всего, ушли на сервер иностранного провайдера без договора.

Отдельный риск — коммерческая тайна и условия NDA с партнерами: если сотрудник вставил в нейросеть текст соглашения о неразглашении, компания формально нарушила собственные обязательства перед контрагентом, даже если утечка была случайной. Для отраслей с дополнительными требованиями — банков, госсектора, оборонных предприятий — к этому добавляются требования ФСТЭК и ФСБ по защите информации, которые чат-боты и облачные ИИ-сервисы по умолчанию не выполняют.

Тип риска	Что нарушается	Возможные последствия
Утечка персональных данных клиентов	152-ФЗ «О персональных данных»	Штрафы, предписания Роскомнадзора, судебные иски от клиентов
Утечка коммерческой тайны или условий NDA	Договорные обязательства перед партнером	Расторжение контракта, репутационные и финансовые потери
Утечка данных с грифом секретности или для критической инфраструктуры	Требования ФСТЭК и ФСБ России	Отзыв лицензий, административная и уголовная ответственность
Утечка данных через иностранный сервис без локализации	152-ФЗ в части хранения данных на территории РФ	Блокировка сервиса, штрафы за нарушение локализации

ФСТЭК России готовит отдельные требования к защите информации при работе с искусственным интеллектом: ведомство разрабатывает поправки к приказу № 117, а аналогичные рекомендации уже направило органам государственной власти отдельным письмом. Регулятор разделяет три сценария использования ИИ: модели ИИ, ИИ-агенты и внешние ИИ-сервисы. Для каждого сценария предусмотрен свой состав мер защиты.

Для моделей и агентов ИИ ФСТЭК рекомендует сегментацию сети, усиленную многофакторную аутентификацию, доступ по принципу минимальных привилегий и регистрацию действий пользователей. Для ИИ-агентов добавляются требования к управлению доступом агента к ресурсам информационной системы, защите программных интерфейсов и подтверждению оператором выполнения значимых операций. Когда модель ИИ обрабатывает информацию ограниченного доступа, отдельной мерой становится фильтрация запросов пользователей и ответов модели.

Регуляторные риски утечки через ИИ различаются тем, кто предъявляет претензии и как быстро это происходит. Но объединяет их одно: чем раньше служба безопасности узнает о самом факте передачи данных в ИИ-сервис, тем больше шансов ограничить ущерб до того, как информация станет предметом разбирательства.

Как DLP защищает бизнес от утечек через ИИ

DLP-системы решают задачу утечек через ИИ в двух плоскостях: не дают конфиденциальным данным уйти в сторонний сервис в момент отправки запроса и помогают разобраться в ситуации постфактум, если утечка все же произошла. Разберем обе задачи — обнаружение и расследование — по отдельности.

Как DLP-система выявляет передачу данных в ИИ-сервисы

Классический DLP-агент анализирует содержимое того, что сотрудник печатает или загружает в браузерную форму чат-бота: номер паспорта, фрагмент договора, блок кода с внутренними комментариями. Такой контроль по содержимому работает одинаково для любого ИИ-сервиса, потому что политика реагирует на тип и формат данных, а адрес конкретного сайта для нее второстепенен. Сложнее с запросами, которые формально выглядят как обычный рабочий диалог, — утечка данных через запросы для искусственного интеллекта редко содержит явные маркеры вроде номера карты. С октябрьским релизом офицер безопасности сможет открыть переписку сотрудника с ИИ целиком — с текстом запросов и ответов — и оценить контекст вручную, вместо того чтобы полагаться только на формальные признаки.

Как DLP помогает расследовать утечку через ИИ

Если утечка все же произошла, важно быстро восстановить картину: что именно было отправлено, с какого устройства, в какой сервис и когда. Расследование инцидентов начинается с журнала событий DLP-системы, где хранятся и факт отправки, и содержимое самого запроса — это позволяет оценить реальный масштаб утечки без догадок по косвенным признакам.

В Solar Dozor такой журнал строится автоматически и привязывается к конкретному сотруднику независимо от того, с какого устройства он работает, поэтому офицер безопасности видит полную цепочку событий, даже если человек менял ноутбук или подключался с личного телефона. Это сокращает время расследования с недель до часов и упрощает подготовку официального уведомления, если инцидент подпадает под требования регулятора. Офицер безопасности может открыть сами беседы сотрудников с ИИ — с текстом запросов и ответов — и сформировать отчет по пользователям ИИ-сервисов.

Профилактика утечек через ИИ: политики и обучение

Полностью запретить сотрудникам пользоваться нейросетями почти невозможно — рано или поздно кто-то откроет чат-бот с личного телефона в обеденный перерыв. Более рабочий подход строится на трех элементах: понятной политике использования ИИ-сервисов, регулярном обучении сотрудников и техническом контроле того, что действительно уходит наружу. Дальше — что конкретно стоит внедрить в первую очередь.

Разработайте отдельную политику использования ИИ-сервисов, в которой прямо перечислены разрешенные инструменты и типы данных, которые нельзя вставлять в чат-бота ни при каких обстоятельствах.
Проведите короткое обучение для сотрудников с примерами реальных инцидентов вроде истории Samsung — конкретный случай с понятными последствиями запоминается лучше абстрактного предупреждения.
Настройте корпоративные тарифы популярных нейросетей с отключенным обучением на пользовательских данных вместо бесплатных версий, которые сохраняют переписку по умолчанию.
Внедрите техническую политику DLP-системы для контроля браузерных форм чат-ботов и облачных ИИ-сервисов, чтобы решение не зависело от дисциплины конкретного сотрудника.
Назначьте ответственного за регулярный пересмотр списка разрешенных ИИ-инструментов, потому что новые сервисы появляются быстрее, чем успевает обновляться формальная политика.

Ни один из этих шагов не работает в одиночку: политика без контроля остается декларацией, а контроль без обучения сотрудников создает лишние инциденты, которые можно было предотвратить простым объяснением. Вместе они закрывают и человеческий фактор, и техническую сторону риска.

От запрета ИИ к контролируемому использованию

Компании, которые выбирают полный запрет ИИ-сервисов, обычно проигрывают дважды: сотрудники все равно находят способ пользоваться нейросетями в обход правил, а бизнес теряет реальную выгоду от инструментов, которые ускоряют рутинные задачи. Более устойчивый путь строится вокруг видимости: служба безопасности должна знать, какие данные и куда уходят, даже если формально использование ИИ разрешено внутри компании.

Технологии контроля для этого уже существуют: современная DLP-система распознает содержимое запроса к нейросети так же, как раньше распознавала вложение в письме, и реагирует на конфиденциальные данные независимо от канала передачи. Компании, которые внедряют такой контроль сейчас, разбираются с рисками ИИ на своих условиях, пока цена вопроса — это настройка политики, а последствия еще не превратились в разбирательство с клиентом или регулятором.

Ключевой вопрос здесь — кто первым узнает о проблеме: служба безопасности по журналу DLP-системы или клиент с претензией и жалобой в Роскомнадзор. Разница между этими вариантами измеряется в репутации и сумме штрафа.

Готовое решение под ваши процессы

Обсудите с экспертами Solar Dozor, как настроить контроль конфиденциальных данных в ИИ-сервисах под процессы именно вашей компании — от политики до технической настройки.

Частые вопросы и ответы

Как сотрудники могут случайно допустить утечку данных через ИИ?

Чаще всего это происходит без злого умысла: сотрудник вставляет фрагмент документа, кода или переписки в чат-бота, чтобы быстрее решить рабочую задачу, и не думает о последствиях.

Какой самый частый источник утечек данных?

Чаще всего утечка происходит через диалоговые нейросети вроде ChatGPT, куда сотрудники копируют документы, код и служебную переписку без учета политики безопасности компании.

Опасны ли бесплатные AI-сервисы для корпоративных данных?

Да, чаще всего у компании нет договора о защите информации с провайдером, данные хранятся на его зарубежных серверах, а переписка может использоваться для дальнейшего обучения модели.

Можно ли запретить использование ИИ в компании?

Формально можно, но полный запрет обычно не работает: сотрудники быстро находят способ обойти его с личных устройств, поэтому эффективнее контролировать содержимое исходящего трафика.

Как DLP-система распознает передачу данных в ИИ?

DLP анализирует содержимое браузерной формы чат-бота и облачных ИИ-сервисов и реагирует на конфиденциальные данные независимо от того, какой конкретно сайт или приложение использовалось.

Что делать, если утечка через ИИ уже произошла?

Нужно поднять журнал событий DLP-системы, установить, что именно и куда было отправлено, оценить масштаб утечки и при необходимости уведомить регулятора в установленный срок.

Как защитить данные при использовании нейросетей?

Сочетайте понятную политику использования ИИ-сервисов, регулярное обучение сотрудников на реальных примерах и техническую DLP-защиту исходящего корпоративного трафика.