ИИ под цензурой: китайский DeepSeek генерирует уязвимый код при «неугодных» темах

ИИ под цензурой: китайский DeepSeek генерирует уязвимый код при «неугодных» темах

Как сообщает The Washington Post, исследование компании CrowdStrike выявило необычный эффект: китайская нейросеть DeepSeek создаёт код разного качества в зависимости от политического контекста запроса.

Если запрос касается нейтральных тем или связан с США, сеть выдаёт чистый и относительно безопасный код. Однако при упоминании тем, чувствительных для властей КНР, например, Тайваня, Тибета, Синьцзяна или Фалуньгун, - ситуация меняется. Вероятность появления критических ошибок в коде возрастает до 50% и выше, тогда как в обычных запросах этот показатель не превышает 5%.

В сгенерированных программах исследователи находили уязвимости вроде SQL-инъекций или переполнения буфера, что делает такой код опасным для применения в реальных проектах. CrowdStrike подчёркивает, что речь не идёт о целенаправленном саботаже:  вероятнее всего, сбой связан с работой идеологических фильтров или низким качеством обучающих данных.

Это первый зафиксированный случай, когда геополитический фактор напрямую влияет на уровень безопасности создаваемого ИИ-кода. Эксперты предупреждают: подобная предвзятость может превратить искусственный интеллект в инструмент политической дискриминации, а также создать новые риски для мировой информационной безопасности, ведь уязвимый код может оказаться в продуктах, которые используют миллионы пользователей.

РЕКОМЕНДУЕМ

похожие материалы

Стрелочка
Стрелочка
Экстренный патч Chrome закрыл две 0-day уязвимости: обход песочницы и крах Skia уже используют в атаках
Экстренный патч Chrome закрыл две 0-day уязвимости: обход песочницы и крах Skia уже используют в атаках

Google выпустила внеплановое обновление стабильной ветки Chrome, закрывающее две критические уязвимости, которые, по данным компании, уже эксплуатируются в реальных кибератаках.

Анализ рынка информационной безопасности в России: темпы прироста новых игроков снижаются, число ликвидированных компаний растет
Анализ рынка информационной безопасности в России: темпы прироста новых игроков снижаются, число ликвидированных компаний растет

Аналитики «Контур Фокуса» и «Контур Эгиды» представили исследование российского рынка информационной безопасности, охватывающее период с 1 марта 2024 по 1 марта 2026 года.

«Лаборатория Касперского» усилила безопасность контейнерных приложений СберФакторинг с помощью Kaspersky Container Security
«Лаборатория Касперского» усилила безопасность контейнерных приложений СберФакторинг с помощью Kaspersky Container Security

СберФакторинг, дочерняя компания Сбера, внедрила Kaspersky Container Security для повышения уровня защиты контейнерных приложений на всех этапах их жизненного цикла — от разработки до эксплуатации.