ФСТЭК впервые включила угрозы ИИ в официальный банк рисков информационной безопасности

ФСТЭК впервые включила угрозы ИИ в официальный банк рисков информационной безопасности

ФСТЭК России впервые внесла угрозы, связанные с искусственным интеллектом, в Банк данных угроз безопасности информации. Речь идет о формализации рисков, возникающих при разработке, обучении и эксплуатации ИИ-систем, включая генеративные модели.

В обновленном перечне описаны сценарии атак, характерные именно для ИИ. Среди них манипуляции промптами и шаблонами запросов, вмешательство в конфигурации ИИ-агентов, компрометация обучающих данных, а также попытки вызвать отказ в обслуживании ИИ-сервисов. Отдельно отмечаются риски утечки чувствительной информации и нарушения целостности моделей.

Регулятор указывает, что подобные угрозы могут затрагивать как государственные информационные системы, так и объекты критической информационной инфраструктуры. Включение ИИ-угроз в БДУ означает, что они подлежат обязательному учету при моделировании угроз и проектировании систем защиты.

По данным отрасли, сформированный перечень станет основой для будущего стандарта по безопасной разработке и внедрению ИИ. Его обсуждение планируется до конца 2025 года. Ожидается, что новые требования усилят контроль за использованием ИИ в государственных и корпоративных системах на фоне роста числа инцидентов и усложнения атак.

похожие материалы

Стрелочка
Стрелочка
«Лаборатория Касперского» вошла в число лидеров в области промышленной безопасности в Азиатско-Тихоокеанском регионе
«Лаборатория Касперского» вошла в число лидеров в области промышленной безопасности в Азиатско-Тихоокеанском регионе

Международное консалтинговое агентство Frost & Sullivan признало «Лабораторию Касперского» лидером 2026 года в Азиатско-Тихоокеанском регионе по двум направлениям: в области создания ценности для клиентов в сфере безопасности операционных технологий (OT) и в области продуктов для конвергентной безопасности ИТ и OT.