Искусственный вайб: «Солар» зафиксировал всплеск уязвимостей в AI-сервисах

По данным центра расследования киберугроз Solar 4RAYS группы компаний «Солар», архитектора комплексной кибербезопасности, в третьем квартале 2025 года доля обнаруженных уязвимостей в AI-сервисах составила 5%, ранее подобных случаев не фиксировалось. Всплеск происходит впервые, возможно, из-за растущего тренда на «вайбкоддинг» – генерации кода с помощью ИИ без последующей проверки и тестирования.

В обзор уязвимостей в веб-приложениях вошла статистика по новым уязвимостям и proof-of-concept (пример кода или программа, показывающие, как работает уязвимость) в более чем 200 продуктах – популярных приложениях, сайтах и сетевом оборудовании. Информация получена из открытых источников: Telegram-каналов об информационной безопасности, статей исследователей безопасности и т.д. Всего за третий квартал эксперты Solar 4RAYS обнаружили 296 уязвимостей, что на 38% больше, чем в предыдущем квартале.

Так, что касается AI-сервисов, уязвимости были обнаружены в Aibox – платформе для работы с различными нейросетями, Liner – поисковой системе на основе искусственного интеллекта, Telegai – площадке для участия в ролевых играх с ИИ-персонажами, Deepy – ИИ-помощнике с открытым исходным кодом и Chaindesk – платформе для создания чат-бота ChatGPT AI для своего веб-сайта. Одна из исследованных уязвимостей позволяла злоумышленникам получать доступы к перепискам пользователей с ИИ в веб-сервисе Ai2 Playground – онлайн-платформе для создания и редактирования изображений с помощью ИИ.

По словам экспертов Solar 4RAYS, все уязвимости, найденные на площадках с применением AI, не являются сложными, а скорее связаны с тем, что многие из них еще находятся в стадии стартапов. Вероятно, что команды разработки пока что не уделили достаточно внимания обеспечению ИБ своих сетевых ресурсов.

Если рассматривать все найденные уязвимости в целом (с учетом AI-сервисов), то большинство из них (81%) имеют сетевой вектор – это значит, что их эксплуатация проходит через сетевые протоколы, например – HTTP, SSH, SMB и т.д. Из них 67% имели высокий уровень критичности, что на 7 п.п. больше, чем в предыдущем квартале. Остальные уязвимости относятся к локальным, то есть располагаются на операционной системе или в приложении на пользовательском устройстве.

Среди общего числа уязвимостей 9% пришлось на платформу для создания сайтов WordPress и ее плагины. Еще 5% уязвимостей найдено в AI-сервисах, и столько же – в роутерах и другом сетевом оборудовании. 2% уязвимостей ИБ-специалисты нашли в библиотеках для Node.js – кроссплатформенной среды для запуска JavaScript вне браузера. Остальные уязвимости относятся к прочему ПО или оборудованию.

Сергей Беляев

Аналитик Solar 4RAYS, ГК «Солар»

«Многие уязвимости в AI-решениях были связаны с типичными клиентскими проблемами, такими как XSS (внедрение вредоносного кода в веб-страницу) и IDOR (получение доступа к внутренним объектам приложения при изменении идентификатора (ID) URL-запроса). Подобные уязвимости нередко возникают при использовании искусственного интеллекта для генерации кода без последующей тщательной проверки и тестирования, который в отрасли называют «вайбкодингом». Можно предположить, что этот всплеск и был результатом повышенного ажиотажа вокруг нового течения в программировании. Поэтому при разработке приложений с элементами ИИ следует уделять особое внимание обработке и валидации пользовательского ввода — как на стороне клиента, так и на стороне сервера».

На момент публикации большинство уязвимостей устранено. Информация о них будет использована для создания обновленных правил обнаружения в продуктах и сервисах «Солара». Подробнее об уязвимостях, уникальных хакерсках техниках и методам их противодействия эксперты Solar 4RAYS расскажут на SOC Forum 2025.