Система обнаружения оружия на основе ИИ, подключённая к камерам средней школы округа Балтимор, приняла пакет чипсов Doritos за оружие и вызвала полицию на 16-летнего ученика.
Подросток Таки Аллен ел чипсы на школьном участке после тренировки, как вдруг его окружило полдюжины вооружённых полицейских. Они заставили школьника лечь на землю, после чего обыскали и, не найдя оружия, уехали.
Представители стартапа Omnilert, чьи решения используются в школах, ответили, что камера сработала так, как и должна была, так как рука в пакете чипсов очень напоминала пистолет, а система решила перестраховаться во имя безопасности учеников. В компании принесли извинения пострадавшему.
Интересно, что ИИ-системы, ориентированные на обнаружение оружия, ранее обвинялись в более частом срабатывании в случае с чернокожими учениками. Таки Аллен тоже является афроамериканцем.
Извинений Аллену от имени руководства школы принесено не было.