Утечки данных через ИИ-сервисы: риски ChatGPT и защита корпоративных данных

Нейросети окончательно закрепились в статусе незаменимых корпоративных помощников. Сегодня через них пишут код, анализируют финансовые отчеты, составляют юридические документы и даже проектируют архитектуру внутренних систем. Однако вместе с ростом продуктивности возросли и риски информационной безопасности. Утечка данных через ИИ-сервисы — это уже не гипотетическая угроза из киберпанк-романов, а суровая повседневная реальность, с которой ежедневно сталкиваются ИБ-подразделения по всему миру.

Кибер Медиа разбирает, как работает механика таких инцидентов, в чем кроется реальная опасность для бизнеса при использовании публичных LLM, как нейросети применяются в ИБ и как выстроить надежную защиту корпоративных данных.

Содержание

1. Как работает механика инцидентов и в чем кроются риски
2. Примеры атак и случайных сливов: от Samsung до чиновников США
3. Атака vs Защита: как применяют нейросети в ИБ
4. Как выстроить защиту корпоративных данных
5. Прогноз на ближайший год: к чему готовиться
6. Заключение

Как работает механика инцидентов и в чем кроются риски

Когда мы говорим про риски использования публичных нейросетей, важно понимать, что главная проблема кроется не в изощренных хакерских взломах или целенаправленном шпионаже. Практика показывает, что абсолютное большинство утечек происходит из-за банального желания сотрудников оптимизировать свои рутинные задачи. Вместо того чтобы тратить часы на анализ логов, написание шаблонного кода или составление отчетов, работники делегируют эти процессы умным алгоритмам, совершенно не осознавая возможных последствий.

Психологический аспект взаимодействия с ИИ играет здесь злую шутку. Современные языковые модели общаются настолько естественно, что у пользователя возникает ложное чувство приватной беседы. Интерфейс в виде привычного мессенджера стирает бдительность: пользователи забывают, что по ту сторону экрана находится не изолированная программа на их компьютере, а сложная облачная инфраструктура сторонней корпорации.

Алексей Синадский

Ведущий исследователь Исследовательского центра УЦСБ

Основная уязвимость кроется в иллюзии приватного диалога. Сотрудник воспринимает чат-бот как локальное приложение, хотя фактически взаимодействует с внешним облачным сервисом, и переданные данные ни отозвать, ни проконтролировать невозможно. ChatGPT из вопроса – это лишь один из множества LLM-провайдеров; те же риски актуальны для DeepSeek, Qwen, Claude и других сервисов.

Самое пугающее в этой ситуации то, что для компрометации инфраструктуры злоумышленникам даже не нужно применять сложные векторы атак. Данные утекают в первозданном виде: в облако отправляются целые куски проприетарного кода или базы с персональными данными клиентов без какой-либо предварительной очистки.

Примеры атак и случайных сливов: от Samsung до чиновников США

Чтобы продемонстрировать объективные риски без лишнего хайпа, достаточно взглянуть на статистику. Проблема носит массовый характер, и многие корпорации осознают масштаб бедствия только после того, как их интеллектуальная собственность уже оказалась в весах публичных моделей.

Цифры говорят сами за себя: по свежим данным «Информзащиты» за июль 2026 года, уже 20% организаций, столкнувшихся с утечками, связывают инциденты с бесконтрольным применением ИИ (годом ранее их было 12%). Аналитика ГК «Солар» подтверждает тренд: объем корпоративных данных, уходящих в публичные нейросети, за год вырос в 30 раз. И это бьет по бюджетам — наличие «теневого ИИ» увеличивает средний ущерб от утечки примерно на $670 тысяч.

Громкие инциденты служат отличным напоминанием о том, что от ошибок не застрахован никто. Недавно в США исполняющий обязанности директора Агентства по кибербезопасности (CISA) лично загрузил в публичную версию ChatGPT служебные документы с пометкой «только для официального использования». Если так поступает профильный руководитель, то ожидать идеальной цифровой гигиены от рядовых сотрудников наивно.

Али Гаджиев

Руководитель продукта Solar Dozor

Показательный случай произошёл в Samsung в 2023 году. Компания выявила три эпизода передачи конфиденциальных данных в ChatGPT. Один сотрудник загрузил фрагмент исходного кода, второй – код программы для выявления дефектов оборудования, третий – запись внутреннего совещания для подготовки протокола. Российская практика показывает, что проблема носит системный характер, и объемы чувствительной информации, отправляемой в общедоступные модели, продолжают стремительно расти.

С развитием технологий ситуация лишь усугубляется. Если раньше угрозу представляли только прямые запросы в веб-интерфейсе, то сегодня на сцену вышли автономные ИИ-агенты и сложные интеграции. Яркий пример — утечки логов чатов DeepSeek в январе 2025 года. Агентские системы тогда только набирали популярность, но исследователи уже находили в них слитые API-ключи, содержимое серверов и другую чувствительную информацию.

Атака vs Защита: как применяют нейросети в ИБ

Современное противостояние в киберпространстве все больше напоминает высокотехнологичную гонку вооружений, где обе стороны активно используют искусственный интеллект. Хакеры стремятся автоматизировать каждый этап взлома, снижая порог входа для киберпреступников, в то время как защитники вынуждены обрабатывать кратно возросший объем инцидентов.

Олег Скулкин

Руководитель BI.ZONE Threat Intelligence

В 2025 году начался резкий рост интереса злоумышленников к использованию ИИ в кибератаках. Количество целевых атак с применением ИИ выросло за 2025 год на 93%, а с начала 2026‑го — еще в 3 раза. ИИ помогает злоумышленникам автоматизировать рутинные задачи и быстрее масштабировать атаки. Специалисты по кибербезопасности также внедряют ИИ для защиты. Например, AI-ассистент для автономной кибербезопасности BI.ZONE Cubi обрабатывает до 30% алертов и инцидентов в нашем SOC.

При этом в использовании ИИ наблюдается явная асимметрия. Злоумышленникам достаточно одной успешной попытки генерации вредоносного кода, тогда как ИБ-специалисты не имеют права на ошибку — ложное срабатывание систем защиты может парализовать работу всей компании.

Тем не менее, для центров мониторинга (SOC) нейросети стали настоящим спасением от выгорания аналитиков.

Владислав Шелепов

Аналитик угроз GSOC компании «Газинформсервис»

Для защитников ИИ способен собрать десятки алертов в одну связную хронологию, доставать индикаторы компрометации из длинного отчета, объяснять сложные скрипты или предлагать гипотезы для threat hunting. Если модель анализирует связанные данные (ссылки, домены, заголовки, контекст переписки, манеру общения), ИИ становится одним из главных рабочих инструментов антифишинга.

Как выстроить защиту корпоративных данных

Первая реакция многих руководителей ИБ при столкновении с угрозой утечек через ИИ — заблокировать доступ к популярным сервисам на уровне корпоративного файрвола. Такое решение кажется самым простым и логичным, но в реальности оно приносит больше вреда, чем пользы, лишая бизнес современных инструментов и загоняя проблему в «серую зону».

Алексей Синадский

Ведущий исследователь Исследовательского центра УЦСБ

Тотальные запреты не работают, и лишь порождают теневой ИИ (Shadow AI) – ситуацию, в которой сотрудники тихо пользуются публичными сервисами в обход корпоративных политик. Для управления рисками начать надо с аудита. С технической стороны – развернуть удобный для сотрудников LLM-прокси, который на лету анонимизирует конфиденциальные данные до их отправки во внешнюю модель.

Помимо внедрения специализированных прокси-серверов, классические системы предотвращения утечек (DLP) и шлюзы безопасности (SWG) также нуждаются в серьезной адаптации к новым реалиям, требующим семантического анализа «на лету».

В конечном итоге, технические средства защиты должны идти рука об руку с организационными мерами: классификацией данных, созданием реестра разрешенных сценариев и непрерывным обучением персонала. Невозможно защитить инфраструктуру, если сами пользователи не понимают ценности данных, с которыми работают.

Прогноз на ближайший год: к чему готовиться

В ближайший год ландшафт киберугроз претерпит тектонические изменения. Мы стоим на пороге перехода к новой парадигме взаимодействия систем, где скорость проведения атак возрастет настолько, что традиционные, «ручные» методы реагирования окажутся полностью бесполезными. Окно возможностей для реагирования сузится до секунд.

Алексей Синадский

Ведущий исследователь Исследовательского центра УЦСБ

Ключевой тренд – переход к модели "ИИ атакует ИИ": атакующая LLM без участия человека пробует атаки, прощупывая защитные контуры. Этот же тренд распространяется на агентные ИИ-системы: атакующие агенты будут не только подбирать промпты, но и самостоятельно выстраивать цепочки эксплуатации, взаимодействуя с доступными для модели инструментами и API.

Масштаб и изощренность автоматизированных атак многократно возрастут благодаря демократизации технологий. Вектор фишинга сместится в сторону гиперперсонализированных атак, отличить которые от легитимных запросов станет крайне сложно.

Олег Скулкин

Руководитель BI.ZONE Threat Intelligence

Для корпоративного сектора главным вызовом станет не только развитие таких инструментов, но и массовое использование сотрудниками внешних ИИ-сервисов. Это повышает риск обработки корпоративных данных вне контролируемого контура и появления неконтролируемых ИИ-агентов в инфраструктуре.

Несмотря на все технологические прорывы злоумышленников, главным вызовом для бизнеса останется пресловутый человеческий фактор. Даже самые совершенные алгоритмы защиты бессильны, если сотрудник добровольно передает конфиденциальную информацию внешнему сервису ради экономии времени.

Заключение

Утечки данных через ИИ-сервисы — это сложный вызов, требующий от бизнеса поиска тонкого баланса между жесткой безопасностью и эффективностью. Публичные нейросети дают колоссальные конкурентные преимущества, но их стихийное использование превращает корпоративный защитный контур в решето. Организациям необходимо отказаться от иллюзий приватности облачных чат-ботов. Внедрение локальных (on-premise) моделей, использование AI-шлюзов для анонимизации трафика, адаптация DLP-систем и непрерывное обучение сотрудников цифровой гигиене — вот тот базовый фундамент, который позволит безопасно использовать всю мощь генеративного искусственного интеллекта.