В средней школе Kenwood High в округе Балтимор (штат Мэриленд) 16-летний ученик был задержан полицией после того, как система искусственного интеллекта, установленная для обнаружения оружия, приняла пакет Doritos за пистолет. После срабатывания тревоги на место прибыли вооружённые офицеры, повалили подростка на землю и обыскали его. Лишь затем выяснилось, что система ошиблась, а «угроза» оказалась обычным пакетом чипсов.
По данным CNN, алгоритм, подключённый к школьным камерам видеонаблюдения, распознал форму предмета и положение руки подростка как потенциально опасные. Сжатый пакет находился в руке, и система восприняла его контуры как оружие. Администрация школы подтвердила, что после инцидента тревога была отменена и ученик отпущен.
Случай вызвал дискуссию о надёжности систем с искусственным интеллектом, применяемых для обеспечения безопасности в учебных заведениях. Эксперты отмечают, что ошибка алгоритма могла привести к тяжёлым последствиям и подчёркивает необходимость независимой проверки технологий, работающих в чувствительных социальных средах.