В Великобритании владелец онлайн-магазина сообщил о случае, в котором чат-бот на базе искусственного интеллекта выдал покупателю несуществующий купон на скидку в 80 %, после чего был оформлен заказ на сумму около £8 000 (~834 000 ₽). История обсуждается в профессиональном IT-сообществе.
Как рассказал ритейлер, ИИ-ассистент работал на сайте около полугода, помогая пользователям навигации и ответам на вопросы. Однако один из клиентов смог «вытянуть» у чат-бота генерацию кода скидки, который не существует в базе системы. Сперва бот предложил скидку 25 %, затем в ходе разговора «согласился» на 80 %. На этом основании покупатель оформил заказ на крупную сумму.
По словам владельца, после обнаружения заказа он попросил клиента отменить его, но тот пригрозил подать в суд, если заказ не будет выполнен. В конечном счете продавец смог вернуть средства и отменить трансакцию.
В сообщении подчеркивается, что ИИ чат-бот не был изначально предназначен для принятия финансовых решений или генерации реальных промо-кодом, а просто отвечал на запросы пользователей. Ошибка подсветила риски использования автоматизированных ответчиков без жестких ограничений логики принятия решений или валидации вводимых данных.
Редакция Cyber Media собрала ключевые события из мира кибербезопасности за эту неделю.
Аналитический центр Black Lotus Labs совместно с Министерством юстиции США провел операцию по нейтрализации прокси-сети SocksEscort, построенной на базе вредоносного ПО AVRecon.
Google выпустила внеплановое обновление стабильной ветки Chrome, закрывающее две критические уязвимости, которые, по данным компании, уже эксплуатируются в реальных кибератаках.
Исследователи Qualys Threat Research Unit обнаружили девять уязвимостей в модуле безопасности AppArmor, которые существовали с 2017 года и затрагивают более 12,6 млн систем по всему миру.
Более 200 представителей российских компаний ежегодно принимают участие в Security Summit — руководители ИБ, ИТ-директора и представители бизнеса.
Аналитики «Контур Фокуса» и «Контур Эгиды» представили исследование российского рынка информационной безопасности, охватывающее период с 1 марта 2024 по 1 марта 2026 года.
В 2026 году основным инструментом борьбы с технологическими подсказками на едином госэкзамене станут системы подавления сотовой связи.
СберФакторинг, дочерняя компания Сбера, внедрила Kaspersky Container Security для повышения уровня защиты контейнерных приложений на всех этапах их жизненного цикла — от разработки до эксплуатации.
«Базальт СПО», мировой производитель системного и инфраструктурного ПО на базе собственной платформы разработки провeдeт четвертую партнерскую конференцию AltConf: Orange Season.
В мартовском накопительном обновлении KB5079473 для Windows 11 компания Microsoft добавила в интерфейс панели задач новую функцию - быструю проверку скорости интернета.
