OpenAI объявила о мерах по усилению киберзащиты на фоне растущей мощности ИИ-моделей

OpenAI объявила о мерах по усилению киберзащиты на фоне растущей мощности ИИ-моделей

OpenAI представила новую стратегию, направленную на повышение устойчивости своих систем к киберугрозам. Компания подчёркивает, что по мере роста возможностей ИИ увеличиваются и риски: мощные модели могут помочь защитникам, но при неправильном использовании способны усилить и атакующих.

В рамках программы OpenAI внедряет слоистую защиту, расширяет сотрудничество с экспертами по безопасности и развивает инструменты, которые позволяют быстрее находить уязвимости, улучшать код и укреплять инфраструктуру. В компании отмечают, что приоритетом остаётся создание моделей, которые работают на стороне обороны, а не предоставляют злоумышленникам дополнительные возможности.

Внутренние оценки показывают, что новые поколения моделей приближаются к уровню, на котором они способны разрабатывать сложные обходы защиты и анализировать корпоративные системы. Поэтому OpenAI планирует запуск программ с ограниченным доступом для профессиональных исследователей, создание внешнего совета по рискам и расширение инструментов для анализа угроз.

Компания подчёркивает, что эти меры становятся критически важными в момент, когда ИИ начинает играть всё более значимую роль в киберпространстве. Новые подходы должны не только снизить потенциальные риски, но и помочь использовать искусственный интеллект для укрепления защиты цифровой инфраструктуры.

похожие материалы

Стрелочка
Стрелочка
Мошенники начали подделывать голоса следователей с помощью ИИ
Мошенники начали подделывать голоса следователей с помощью ИИ

Следственное управление в Калининградской области предупредило о новой схеме дистанционных мошенничеств, в которой злоумышленники используют технологии искусственного интеллекта для подделки голосов и изображений публичных сотрудников Следственного комитета.

ViPNet Prime получил сертификацию ФСБ России
ViPNet Prime получил сертификацию ФСБ России

Компания «ИнфоТеКС» информирует о получении сертификата ФСБ России на средство криптографической защиты информации ViPNet Prime Key Center из состава системы централизованного управления продуктами и решениями ИнфоТеКС ViPNet Prime.

В Telegram начали использовать нестандартные proxy-ссылки для обхода блокировок и автоматизации
В Telegram начали использовать нестандартные proxy-ссылки для обхода блокировок и автоматизации

В Telegram появились сообщения о распространении нового типа deep-ссылок proxy, которые позволяют пользователям и скриптам обходить ограничения доступа к мессенджеру и автоматически подключаться через прокси-серверы.

В новогодние праздники киберпреступники усилили атаки на ключевые отрасли России
В новогодние праздники киберпреступники усилили атаки на ключевые отрасли России

Компания RED Security, открытая экосистема ИБ-решений и экспертизы для комплексной защиты бизнеса, зафиксировала резкое увеличение доли высококритичных кибератак в период в период новогодних праздников.