Исследование «Солара»: почти две трети компаний не контролируют утечки данных через нейросети
Аналитики Solar webProxy ГК «Солар», архитектора комплексной кибербезопасности, проанализировали трафик 150 компаний из различных секторов экономики на предмет утечек корпоративной информации в ИИ-сервисы. За последний год объем данных, отправляемых в общедоступные нейросети, вырос в 30 раз. При этом около 60% российских организаций до сих пор не имеют формализованных политик, регулирующих работу с ИИ, что создает критические риски для бизнеса.
Сотрудники массово используют нейросети для рабочих задач, неосознанно загружая в них конфиденциальные данные. В чат-боты попадают фрагменты исходного кода, финансовые отчеты, юридические документыи клиентские базы. Исследование показывает, что через одну из самых доступных моделей –ChatGPT передается 46% всех чувствительных файлов.
Искусственный интеллект стал мощным инструментом не только для пользователей, но и для злоумышленников. С помощью ИИ кибератаки становятся быстрее и изощреннее. Например, время на перенастройку DDoS-атаки сократилось с часа до минуты. Злоумышленники автоматизируют фишинг с помощью дипфейков и персонализированных писем, ускоряют поиск уязвимостей и генерируют эксплойты. По мнению экспертов Solar webProxy, противостоять таким угрозам можно только с помощью аналогичных по скорости и интеллекту технологий.
Угрозы, связанные с бесконтрольным использованием ИИ, по-разному проявляются в различных отраслях, но затрагивают практически всех. В ИТ-компаниях это создает высокую вероятность компрометации исходников, бизнес-логики и API-ключей, если часть кода попадет в нейросети. В ней часто содержатся данные тестовых учетных записей, адреса стендов разработчиков, которые менее защищены. Все это позволяет легче находить утечки для компрометации, слабые места сети и т.д.
В финансовом секторе под ударом оказываются персональные данные и банковская тайна. Для промышленных предприятий несанкционированная передача информации ведет к прямой угрозе потери технологий, разработок и данных о производственных процессах. В ритейле и e-commerce возникает вопрос о сохранности огромных массивов данных о покупателях. В госсекторе и окологосударственных организациях действуют строгие требования к данным, однако ИИ часто используется «полулегально», без формальных правил и средств контроля, что значительно повышает вероятность инцидентов безопасности.
Полный запрет ИИ не является решением проблемы, поскольку нейросетистали важным рабочим инструментом. Защитой могут стать разработки, обеспечивающие контроль входящих и исходящих запросов при взаимодействии пользователя с ИИ-сервисами, например, SWG-система (Secure Web Gateway).Именно такую комплексную защиту предлагает полностью отечественное решение Solar webProxy. Оно анализирует исходящие запросы и распознает обращения к ИИ-ресурсам по категориям.Далее она проверяет API-вызовы на наличие токенов и ключей, а содержимое и вложения на утечки. Одновременно она фильтрует входящие ответы от ИИ: блокирует вредоносные скрипты и файлы, отсекает фишинговые страницы и предотвращает загрузку опасного контента. База категорий и политик безопасности постоянно обновляется, включая новые сервисы.
Вопрос уже не в том, использовать ли ИИ, а в том, как делать это безопасно, сохраняя контроль над корпоративными данными и защищая инфраструктуру.
Читайте также:
Сегодня, 15 января, Следственный комитет России отмечает свое 15-летие. Сотрудники следственного управления Челябинска рассказали, как сегодня раскрывают преступления.
