Система ИИ в школе Балтимора перепутала пакет чипсов с оружием - ученик был задержан

Система ИИ в школе Балтимора перепутала пакет чипсов с оружием - ученик был задержан

В средней школе Kenwood High в округе Балтимор (штат Мэриленд) 16-летний ученик был задержан полицией после того, как система искусственного интеллекта, установленная для обнаружения оружия, приняла пакет Doritos за пистолет. После срабатывания тревоги на место прибыли вооружённые офицеры, повалили подростка на землю и обыскали его. Лишь затем выяснилось, что система ошиблась, а «угроза» оказалась обычным пакетом чипсов.

По данным CNN, алгоритм, подключённый к школьным камерам видеонаблюдения, распознал форму предмета и положение руки подростка как потенциально опасные. Сжатый пакет находился в руке, и система восприняла его контуры как оружие. Администрация школы подтвердила, что после инцидента тревога была отменена и ученик отпущен.

Случай вызвал дискуссию о надёжности систем с искусственным интеллектом, применяемых для обеспечения безопасности в учебных заведениях. Эксперты отмечают, что ошибка алгоритма могла привести к тяжёлым последствиям и подчёркивает необходимость независимой проверки технологий, работающих в чувствительных социальных средах.

похожие материалы

Стрелочка
Стрелочка
«Лаборатория Касперского» разработала защитное решение для спутника-платформы RUVDS
«Лаборатория Касперского» разработала защитное решение для спутника-платформы RUVDS

«Лаборатория Касперского» разработала для хостинг-провайдера RUDVS специализированное решение Kaspersky Endpoint Security for Linux (KESL) — Space Edition, которое поможет обеспечивать защиту спутника-платформы RUVDSSat1 на протяжении всей его миссии.