Слабое звено в Slack: Искусственный интеллект помогает хакерам красть данные

Исследователи нашли уязвимость в функции Slack AI, которая позволяет манипулировать искусственным интеллектом для получения конфиденциальной информации пользователей. Эта функция, изначально созданная для суммирования сообщений и документов, оказалась уязвимой для внедрения вредоносных подсказок.

Злоумышленники могут создать публичный канал и разместить в нем инструкцию, которая заставит AI перехватывать и выводить конфиденциальные данные, например, ключи API. Это возможно из-за того, что искусственный интеллект не различает системные и пользовательские подсказки.

Пользователь, запросив свой ключ API, может получить вредоносное сообщение, которое перенаправляет его на фишинговый сайт. Этот метод особенно опасен, так как мошенническое сообщение может не отображаться в поисковой выдаче Slack, делая атаку трудно обнаружимой.

15 августа Slack обратился к исследователям за дополнительной информацией о выявленной уязвимости. К 19 августа компания посчитала предоставленные данные недостаточными для подтверждения проблемы. Это заставило исследователей опубликовать свои находки, чтобы предостеречь пользователей.