Фильтрация и контроль ИИ‑сервисов: как снизить риски без тотальных запретов

Сотрудники используют ChatGPT, Copilot и Gemini в рабочих задачах — часто без ведома ИБ-службы и без каких-либо корпоративных правил. Вместе с удобством приходят риски: конфиденциальные данные уходят во внешние сервисы, а в ответах могут возвращаться вредоносные файлы и поддельные страницы. Рассказываем, почему тотальный запрет нейросетей не работает, что именно нужно контролировать в ИИ-трафике и как Solar webProxySolar webProxy — SWG-система для контроля обращений сотрудников к ИИ-сервисам: инспектирует HTTPS-трафик, блокирует утечки данных и фильтрует вредоносные ответы нейросетей. помогает выстроить управляемую и безопасную работу с ИИ-сервисами.

Почему генеративный ИИ стал риском для бизнеса

Проблема не в самих нейросетях — они действительно помогают работать быстрее. Проблема в том, что большинство компаний не контролируют, как именно сотрудники ими пользуются. По данным исследования ГК «Солар», около 46% конфиденциальных файлов и промптов сотрудники загружают через ChatGPT, а 60% организаций не имеют никаких AI-governance-политик. Это означает одно: ИИ-сервисы стали каналом утечек, который компания попросту не видит.

Риски работают в двух направлениях. Изнутри — сотрудник загружает в публичный ИИ внутренний отчет, фрагмент исходного кода, API-токены, клиентскую переписку или тендерную документацию, не задумываясь о последствиях. Снаружи — злоумышленники используют генеративный ИИ, чтобы делать фишинговые письма убедительнее, создавать страницы-клоны популярных нейросервисов и встраивать вредоносные скрипты в ответы моделей.

При этом у ИБ-службы может не быть инструмента, чтобы ответить на базовые вопросы: кто из сотрудников и в какой сервис обращается, какие данные туда уходят, что возвращается в ответах. Без этого каждый инцидент обнаруживается постфактум — и требует ручного расследования. Нагрузка на ИБ-подразделение растет, а управляемости не прибавляется. Между тем предотвращение утечек через ИИ-сервисы требует системного контроля, а не ручных расследований постфактум.

Почему простой запрет нейросетей не решает проблему

Заблокировать ChatGPT на уровне домена — технически несложно. Но на практике это мало что меняет: сотрудники переходят на личные устройства, мобильный интернет или находят альтернативные сервисы. Инструмент, который реально помогает в работе, люди не перестают использовать — они просто начинают делать это в обход корпоративной сети, полностью выпадая из любого контроля. Контроль ChatGPT через политики доступа дает принципиально другой результат, чем блокировка домена.

Полная блокировка создает и другую проблему: она бьет по тем, кто использует ИИ легитимно. Разработчик, маркетолог, аналитик — все они получают реальную пользу от нейросетей в повседневных задачах. Запрет без разбора замедляет процессы и вызывает сопротивление, а не дисциплину.

Бизнесу нужна не блокировка, а управляемый сценарий: одни сервисы разрешить, в других ограничить отдельные действия, третьи запретить полностью. При этом все обращения должны логироваться, а инциденты — расследоваться. Именно такая модель «разрешить/ограничить/запретить» позволяет сохранить доступ к полезным инструментам и одновременно держать риски под контролем.

Что именно компания должна контролировать при работе с ИИ

Контроль ИИ-сервисов — это не только ограничение доступа к сайту. Даже если компания разрешила работать с ChatGPT или Copilot, это не означает, что любые действия внутри этих сервисов допустимы. Полноценный контроль использования ИИ в компании охватывает несколько уровней:

• Доступ к ИИ-сервисам по категориям — кто, когда и к каким сервисам обращается: через браузер, API или встроенные интеграции.
• Обращения к API нейросетей — не только браузерный трафик, но и программные вызовы от приложений и скриптов.
• Текст исходящих запросов — что именно сотрудник отправляет в сервис, нет ли в запросах признаков конфиденциальной информации.
• Вложения и загружаемые файлы — тип, размер, содержимое файлов, которые прикладываются к промпту.
• Заголовки запросов и токены — API-ключи, bearer-токены и другие служебные данные, которые могут утечь вместе с запросом.
• Ответы от ИИ-сервисов — вложения, скрипты и ссылки в ответах моделей, которые могут оказаться вредоносными.
• Переходы на поддельные AI-ресурсы — фишинговые страницы, маскирующиеся под интерфейсы ChatGPT, Gemini и других сервисов.

Контроль исходящих запросов к ИИ — один из ключевых элементов этой модели: именно на этом уровне данные еще не покинули периметр и их можно остановить.

Возьмите использование ИИ-сервисов под контроль

Покажем, как Solar webProxy помогает видеть обращения к нейросетям, ограничивать опасные сценарии и снижать риск утечек через ChatGPT, Copilot, Gemini и другие сервисы.

Запросить демо

Как Solar webProxy распознает ИИ-сервисы

Чтобы контролировать обращения к нейросетям, система должна сначала их распознать — в том числе те, которые появились недавно или работают через нестандартные поддомены и API-эндпоинты. Solar webProxy решает эту задачу через встроенный категоризатор webCAT: категоризация ИИ-ресурсов происходит автоматически и охватывает как браузерный трафик, так и API-вызовы.

Все обращения к ИИ-платформам автоматически определяются по категории «ИИ-ресурсы» в базе webCAT. Это покрывает основные публичные сервисы — OpenAI/ChatGPT, Google Gemini, Microsoft Copilot, Anthropic Claude, Perplexity, DeepSeek, Mistral, GigaChat, YandexGPT — включая их API-интерфейсы. Подход к контролю таких сервисов строится на единых принципах: категоризация, политики доступа, контентный анализ, контроль файлов и журналирование. Конкретная глубина контроля зависит от сценария использования сервиса и настроек политики. Новые нейросервисы попадают в базу по мере появления, сценарии контроля обновляются регулярно, поэтому защита не отстает от рынка.

Если компания работает с корпоративной LLM, развернутой внутри периметра, или использует нишевый сервис, которого еще нет в webCAT, администратор может дополнить политику собственными списками доменов и URL. Это позволяет охватить любые ИИ-инструменты — как внешние публичные, так и внутренние корпоративные — и применять к ним те же правила фильтрации и логирования.

Контроль исходящих обращений к ИИ

Когда сотрудник отправляет запрос в ChatGPT или DeepSeek, с точки зрения сети это обычный HTTPS-запрос. Без специализированного инструмента компания не видит ни того, куда именно ушел запрос, ни что внутри. Solar webProxy перехватывает этот трафик — контроль исходящих запросов к ИИ начинается до того, как данные покинут периметр.

Но контроль исходящего трафика — только половина задачи. Ответы от нейросетей тоже проходят через корпоративную сеть и требуют отдельной проверки: в них могут оказаться вредоносные вложения, исполняемые скрипты или фишинговые страницы под видом легитимного ИИ-сервиса.

Фильтрация входящих ответов от ИИ

Ответ от нейросети — это тоже веб-контент, который проходит через корпоративную сеть. В нем могут оказаться вредоносные вложения, исполняемые скрипты, фишинговые ссылки или служебная информация, которую модель не должна была раскрывать.

Почему для контроля ИИ-трафика недостаточно DNS-фильтрации или одного NGFW

Когда встает вопрос контроля ИИ-сервисов, у многих компаний уже есть DNS-фильтрация или NGFW. Кажется логичным использовать то, что есть. Но оба инструмента решают другие задачи — и для контроля ИИ-трафика у каждого есть принципиальные ограничения.

DNS-фильтрация работает на уровне доменных запросов: она может заблокировать обращение к chat.openai.com целиком, но не видит ничего внутри соединения. Что именно сотрудник отправил в модель, какой файл приложил, что вернулось в ответе — все это остается за пределами ее видимости. Фильтрация ChatGPT через DNS — это либо полный запрет, либо полное разрешение. Никакой гранулярности. NGFW решает широкий круг задач периметровой безопасности, но для гранулярного контроля пользовательского веб- и AI-трафика специализированный SWGSWG — шлюз веб-безопасности, который фильтрует HTTP(S)-трафик, расшифровывает TLS и применяет политики доступа к веб-ресурсам и ИИ-сервисам. обычно дает более удобный и глубокий прикладной контроль.

Специализированная SWG-система заточена именно под HTTP(S)-трафик: фильтрация трафика здесь работает на уровне содержимого, а не только доменов. Она расшифровывает TLS, инспектирует запросы и ответы, применяет гранулярные политики и ведет детальный журнал. Для задач контроля ИИ-трафика это принципиально другой уровень — не «разрешить домен или заблокировать», а возможность управлять сценариями с полной видимостью того, что происходит внутри каждого обращения.

Как Solar webProxy помогает расследовать инциденты и контролировать использование ИИ

Даже если политики настроены правильно, инциденты случаются. Сотрудник нашел обходной путь, сработало исключение, появился новый сервис, который еще не попал в политику. В таких ситуациях скорость реагирования зависит от того, насколько хорошо ИБ-команда видит происходящее.

Solar webProxy позволяет составить детализированную картину обращений к нейросетям в корпоративном веб-канале: кто из сотрудников, в какой сервис, в какое время обращался, какие данные передавал и какой ответ получил. Это не абстрактная статистика по доменам, а детальный журнал событий с привязкой к конкретному пользователю и политике, которая сработала или не сработала.

Когда инцидент все же происходит, ИБ-аналитику не нужно собирать данные по кускам из разных систем. Журнал Solar webProxy содержит все необходимое для расследования: цепочку обращений, содержимое запросов, сработавшие правила, уведомления, которые получал пользователь. Это сокращает время расследования и снижает долю ручной работы.

Параллельно снижается фоновая нагрузка на команду: инциденты фиксируются автоматически, подозрительные события маркируются и попадают в очередь на разбор, а не теряются в общем потоке логов. В результате ИБ-служба тратит меньше времени на рутину и быстрее реагирует на реальные угрозы.

В каких компаниях контроль ИИ особенно актуален

Контроль ИИ-трафика актуален для любой компании, где сотрудники работают с конфиденциальными данными. Особенно остро задача стоит в финансах и страховании, где в промпты могут попадать клиентские данные и условия сделок; в ИТ и разработке, где в нейросети уходит исходный код и архитектура систем; в промышленности и госсекторе, где утечка внутренней документации создает регуляторные риски; в ретейле и телекоме, где объем персональных данных клиентов делает любую неконтролируемую передачу потенциальным нарушением 152-ФЗ.

Генеративный ИИ уже стал частью корпоративного трафика — вне зависимости от того, разрешила это компания или нет. Вопрос больше не в том, использовать ли нейросети, а в том, как выстроить работу с ними так, чтобы не создавать неконтролируемых рисков.

Solar webProxy дает ИБ-команде инструмент, который позволяет не выбирать между «Запретить все» и «Разрешить все». Компания получает фильтрацию ChatGPT, Gemini и других сервисов на уровне содержимого, а не просто по домену.

FAQ