Как сообщает The Washington Post, исследование компании CrowdStrike выявило необычный эффект: китайская нейросеть DeepSeek создаёт код разного качества в зависимости от политического контекста запроса.
Если запрос касается нейтральных тем или связан с США, сеть выдаёт чистый и относительно безопасный код. Однако при упоминании тем, чувствительных для властей КНР, например, Тайваня, Тибета, Синьцзяна или Фалуньгун, - ситуация меняется. Вероятность появления критических ошибок в коде возрастает до 50% и выше, тогда как в обычных запросах этот показатель не превышает 5%.
В сгенерированных программах исследователи находили уязвимости вроде SQL-инъекций или переполнения буфера, что делает такой код опасным для применения в реальных проектах. CrowdStrike подчёркивает, что речь не идёт о целенаправленном саботаже: вероятнее всего, сбой связан с работой идеологических фильтров или низким качеством обучающих данных.
Это первый зафиксированный случай, когда геополитический фактор напрямую влияет на уровень безопасности создаваемого ИИ-кода. Эксперты предупреждают: подобная предвзятость может превратить искусственный интеллект в инструмент политической дискриминации, а также создать новые риски для мировой информационной безопасности, ведь уязвимый код может оказаться в продуктах, которые используют миллионы пользователей.