OpenAI объявила о мерах по усилению киберзащиты на фоне растущей мощности ИИ-моделей
OpenAI представила новую стратегию, направленную на повышение устойчивости своих систем к киберугрозам. Компания подчёркивает, что по мере роста возможностей ИИ увеличиваются и риски: мощные модели могут помочь защитникам, но при неправильном использовании способны усилить и атакующих.
В рамках программы OpenAI внедряет слоистую защиту, расширяет сотрудничество с экспертами по безопасности и развивает инструменты, которые позволяют быстрее находить уязвимости, улучшать код и укреплять инфраструктуру. В компании отмечают, что приоритетом остаётся создание моделей, которые работают на стороне обороны, а не предоставляют злоумышленникам дополнительные возможности.
Внутренние оценки показывают, что новые поколения моделей приближаются к уровню, на котором они способны разрабатывать сложные обходы защиты и анализировать корпоративные системы. Поэтому OpenAI планирует запуск программ с ограниченным доступом для профессиональных исследователей, создание внешнего совета по рискам и расширение инструментов для анализа угроз.
Компания подчёркивает, что эти меры становятся критически важными в момент, когда ИИ начинает играть всё более значимую роль в киберпространстве. Новые подходы должны не только снизить потенциальные риски, но и помочь использовать искусственный интеллект для укрепления защиты цифровой инфраструктуры.