2SDnjcbPXe3
Исследователи нашли уязвимость в функции Slack AI, которая позволяет манипулировать искусственным интеллектом для получения конфиденциальной информации пользователей. Эта функция, изначально созданная для суммирования сообщений и документов, оказалась уязвимой для внедрения вредоносных подсказок.
Злоумышленники могут создать публичный канал и разместить в нем инструкцию, которая заставит AI перехватывать и выводить конфиденциальные данные, например, ключи API. Это возможно из-за того, что искусственный интеллект не различает системные и пользовательские подсказки.
Пользователь, запросив свой ключ API, может получить вредоносное сообщение, которое перенаправляет его на фишинговый сайт. Этот метод особенно опасен, так как мошенническое сообщение может не отображаться в поисковой выдаче Slack, делая атаку трудно обнаружимой.
15 августа Slack обратился к исследователям за дополнительной информацией о выявленной уязвимости. К 19 августа компания посчитала предоставленные данные недостаточными для подтверждения проблемы. Это заставило исследователей опубликовать свои находки, чтобы предостеречь пользователей.
Хакеры начали скрывать атаки на веб-приложения российских компаний под видом запросов от популярных сервисов искусственного интеллекта — DeepSeek, ChatGPT, Perplexity, Claude и Grok.
Эксперт по безопасности и выравниванию искусственного интеллекта Билал Чугтай, недавно покинувший Google DeepMind, выступил с тревожным заявлением о рисках неуправляемого развития технологий.
29 сентября в Москве состоится BIS Summit 2026 — ведущая ежегодная отраслевая конференция, которая фокусируется на самых актуальных темах цифровизации и кибербезопасности.
24 сентября 2026 года в Новосибирске пройдет ежегодная конференция «Код ИБ», на которой участники обсудят, как компании внедряют ИИ и какие риски это создает для бизнеса и ИТ-инфраструктуры.
25 сентября в рамках «АстраКонф», посвящённой информационным технологиям в России, Михаил Кобик, технический директор платформы «Боцман» расскажет про Боцман AI и запуск языковых моделей в защищенном контуре.
Исследователи раскрыли аппаратную уязвимость DDRop, которая взламывает архитектуры конфиденциальных вычислений в процессорах Intel TDX и AMD SEV-SNP.
Microsoft представила проект свода правил, который установит жесткие границы для будущих искусственных интеллектов.
Российская микроэлектроника столкнулась с серьёзной технологической уязвимостью.
Как быстро адаптировать ИТ-инфраструктуру к переменам и при этом не потерять стабильность?
21% промышленных компаний в мире планируют расширить использование технологий искусственного интеллекта для решения задач кибербезопасности — на основе как внешних ИИ-сервисов, так и собственных разработок.
