Почему ИИ нужно контролировать
Сотрудники уже используют технологию. Но кто следит, как именно?
60%
компаний до сих пор не внедрили никаких политик управления ИИ
В 30 раз за год вырос объем информации, отправляемой в генеративные ИИ‑сервисы, — и этот показатель не будет снижаться
≈46% всех чувствительных данных и инструкций для ИИ передаются сотрудниками через ChatGPT
Атаки на облачные ИИ‑приложения вышли на новый уровень: инъекции промптов, утечки через запросы, угон модели
Тотальный запрет ИИ негативно влияет на продуктивность. Абсолютная бесконтрольность создает условия для утечек и заражений. Лучший подход — разделить полезное и опасное: первое разрешить, а второе пресечь.
Источник: исследование ГК «Солар»
Как Solar webProxy контролирует работу с ИИ
Solar webProxy работает по принципу двойной фильтрации: сначала проверяет исходящий промпт, затем — входящий ответ. Так ИИ не получит конфиденциальные данные, а сотрудник — вредоносный контент.
Схема работы с ИИ:
Сценарии защиты
С Solar webProxy вы контролируете риски с обеих сторон: предотвращаете утечку информации через запросы в ИИ и потенциально вредоносные ответы от нейросети.
Когда ИИ становится каналом утечки
Ситуация
Результат с Solar webProxy
Внутренние документы и клиентские данные
Работник отправляет в нейросеть отчет, коммерческое предложение, договор или таблицу — чтобы ускорить сокращение, перевод или переписывание текста
Передача конфиденциальной информации пресекается либо маркируется согласно заданной политике
Код, токены и API-интеграции
Разработчик обращается к нейросети с фрагментом кода, конфигурационным файлом, API-запросом, токеном доступа или внутренним URL — чтобы получить подсказку или помощь в доработке
Система распознает маркеры кода, токенов и служебных данных организации и применяет заданное политикой действие
Когда ИИ становится источником угроз
Ситуация
Результат с Solar webProxy
Опасные вложения и скрипты
Нейросеть отправляет файл, ссылку для загрузки, скрипт или документ, содержащий макросы
Входящий ответ проходит инспекцию, а вызывающие сомнение файлы, скрипты или исполняемые объекты блокируются до того, как попадут к пользователю
Фишинговые AI-страницы и подозрительные ссылки
Сотрудник попадает на сайт, имитирующий интерфейс известного ИИ-сервиса, либо получает от нейросети ссылку на незнакомый ресурс
Система распознает фальшивые AI-страницы, сомнительные ссылки и признаки фишинга, минимизируя угрозу утечки или кражи данных
Когда ИИ становится каналом утечки
-
Внутренние документы и клиентские данные
Работник отправляет в нейросеть отчет, коммерческое предложение, договор или таблицу — чтобы ускорить сокращение, перевод или переписывание текста
-
Код, токены и API-интеграции
Разработчик обращается к нейросети с фрагментом кода, конфигурационным файлом, API-запросом, токеном доступа или внутренним URL — чтобы получить подсказку или помощь в доработке
Когда ИИ становится источником угроз
-
Опасные вложения и скрипты
Нейросеть отправляет файл, ссылку для загрузки, скрипт или документ, содержащий макросы
-
Фишинговые AI-страницы и подозрительные ссылки
Сотрудник попадает на сайт, имитирующий интерфейс известного ИИ-сервиса, либо получает от нейросети ссылку на незнакомый ресурс
Когда ИИ становится каналом утечки
-
Внутренние документы и клиентские данные
Передача конфиденциальной информации пресекается либо маркируется согласно заданной политике
-
Код, токены и API-интеграции
Система распознает маркеры кода, токенов и служебных данных организации и применяет заданное политикой действие
Когда ИИ становится источником угроз
-
Опасные вложения и скрипты
Входящий ответ проходит инспекцию, а вызывающие сомнение файлы, скрипты или исполняемые объекты блокируются до того, как попадут к пользователю
-
Фишинговые AI-страницы и подозрительные ссылки
Система распознает фальшивые AI-страницы, сомнительные ссылки и признаки фишинга, минимизируя угрозу утечки или кражи данных
Что получает компания с SWG-системой Solar webProxy
ИИ остается полезным — риски становятся управляемыми
Прозрачность использования ИИ
Специалисты по безопасности видят, к каким ИИ обращаются сотрудники и в каких ситуациях могут возникнуть угрозы
Защита от опасного контента
Прежде чем пользователь увидит ответ ИИ, ссылку или вложение, система проверит их на безопасность
Снижение рисков утечек
Внешние ИИ-сервисы не получают доступ к внутренней конфиденциальной информации без проверки — будь то файлы, код, токены или персональные данные клиентов
Безопасная работа с ИИ без жестких запретов
Компания может разрешать полезные сценарии и блокировать только те действия, которые создают риск
Настройте безопасное использование ИИ
Оставьте заявку — покажем, как Solar webProxy помогает контролировать работу с ИИ
Популярные вопросы о работе с ИИ
Какие нейросети способна контролировать Solar webProxy?
Все популярные сервисы, включая ChatGPT, Claude, DeepSeek, Perplexity и многие другие. Система фильтрует запросы по доменам, URL, категориям, API и справочникам.
Можно ли контролировать внутреннюю ИИ-модель?
Да, если она развернута локально, работает по протоколу HTTP(S) и ее трафик маршрутизируется через Solar webProxy.
Можно ли не блокировать ИИ-сервисы полностью?
Да. Solar webProxy позволяет гибко ограничивать только конкретные рискованные действия. Нужно лишь настроить систему под свои потребности и риски.
Можно ли сделать исключения для отдельных сотрудников?
Да. В Solar webProxy можно настраивать политики с учетом пользователей, групп, подразделений и рабочих сценариев.
Контроль ИИ-сервисов — это отдельный модуль Solar webProxy?
Нет, фильтрация промптов и ответов ИИ — это штатные функции системы.
Как приказ ФСТЭК России № 117 связан с контролем ИИ-сервисов?
Для организаций, подпадающих под его действие, внешние ИИ становятся каналом передачи информации за пределы охраняемого контура. Через них возможна утечка документов, персональных данных, сведений об инфраструктуре, кода и API-ключей.
Solar webProxy берет этот канал под контроль: анализирует исходящие и входящие данные, применяет политики безопасности и сохраняет все события в логе.
FAQ
Что такое двойная фильтрация ИИ-трафика в Solar webProxy и как она работает?
Двойная фильтрация — проверка исходящего запроса и входящего ответа. Solar webProxy применяет настроенные политики, а DLP-система, антивирус или песочница могут выполнять дополнительные проверки.
Какие ИИ-сервисы и нейросети способен контролировать Solar webProxy?
Solar webProxy контролирует ИИ-сервисы, если их HTTP(S)-трафик проходит через систему. Глубина контроля зависит от протокола: запросы, ответы и файлы проверяются не во всех сценариях одинаково.
Где анализируется содержимое промптов и ответов нейросетей?
Запросы и ответы проверяются после SSL-инспекции по URL, заголовкам, словам и шаблонам. Передача объектов во внешние DLP-системы, антивирусы или песочницы выполняется только по заданным правилам.
Как Solar webProxy проверяет файлы, отправляемые в ИИ-сервисы?
Solar webProxy применяет правила по направлению передачи, имени, типу, расширению и размеру файла. Для анализа содержимого объект можно передать по ICAP в подключенную DLP-систему, антивирус или песочницу.
Сколько данных о работе с ИИ видно в рабочих столах и отчетах?
Рабочие столы и отчеты показывают сводную активность по пользователям и ИИ-сервисам. Подробности о файлах, срабатываниях политик и отдельных обращениях доступны в журналах и «Досье».
Почему тотальный запрет ИИ снижает продуктивность, а Solar webProxy предлагает баланс?
Полный запрет лишает сотрудников полезных инструментов и стимулирует обходы. Solar webProxy разрешает допустимые сервисы и действия, а опасные запросы, ответы и файлы ограничивает по ролям и сценариям.
По каким признакам Solar webProxy блокирует ответ ИИ-сервиса?
Solar webProxy применяет правила по URL, категориям, словам, шаблонам и атрибутам файлов. Вредоносность объектов определяет антивирусный модуль или средство по ICAP; действие задается политикой.
Как контролировать использование внутренней ИИ-модели, развернутой локально?
Локальную ИИ-модель можно контролировать, если обмен с ней идет по HTTP(S) через Solar webProxy. Для внутреннего адреса настраивают маршрут, расшифрование и отдельные правила для запросов, ответов и файлов.
Можно ли сделать исключения для отдельных сотрудников или отделов при работе с ИИ?
Да. Политики назначаются пользователям, группам и отделам с учетом сервиса, данных, расписания и срока. Доступные условия зависят от признаков, которые видны в трафике конкретного ИИ-сервиса.
Как приказ ФСТЭК №117 связан с контролем ИИ-сервисов в организации?
Приказ №117 запрещает передачу информации ограниченного доступа разработчику ИИ и требует контролировать запросы по шаблонам или тематикам. Solar webProxy помогает контролировать доступ и передачу данных.
Самые важные новости кибербезопасности у вас в почте
Выберите темы, на которые бы вам было интересно получать новости.
Запросить консультацию
Получите материалы вебинара
Получите контент бесплатно. Укажите e‑mail, и мы пришлем код доступа