В Балтиморе в США 16-летнего школьника окружили вооружённые полицейские из-за ложного сигнала искусственного интеллекта. Алгоритм распознал у него оружие, но в руках у подростка была всего лишь пустая пачка чипсов Doritos.
Как рассказал пострадавший Таки Аллен местному телеканалу WMAR-2, после тренировки он ел чипсы, а через 20 минут возле школы остановились 8 полицейских машин. Офицеры приказали ему встать на колени и надели наручники: "Они все вышли с оружием, направленным на меня. Говорили лечь на землю".
Полиция округа Балтимор позже заявила, что действовала "соразмерно полученной информации" и отпустила подростка, когда убедилась, что угрозы нет.
Ошибка произошла из-за сбоя в работе школьной системы видеонаблюдения с ИИ-детектором оружия, разработанным компанией Omnilert. Алгоритм зафиксировал "подозрительный объект", который показался похожим на пистолет.
Изображение отправили на проверку операторам и те подтвердили, что угрозы нет. Но директор школы не заметила этот отчёт и сообщила о тревоге команде безопасности, которая вызвала полицию.
Компания Omnilert принесла извинения и заявила, что система сработала как задумано. Однако многие местные политики и родители требуют пересмотра процедур и точности подобных решений.
Местный депутат Иззи Пакота уже обратился в департамент образования округа с просьбой проверить использование ИИ-детекторов оружия в школах. Сам Аллен теперь старается не выходить после тренировок: "Не чувствую себя в безопасности - особенно если просто ем чипсы".
Ранее мы рассказывали, что полиция США попросила подростков не устраивать ИИ-пранки с бездомным в их квартире. Офицер предупредил, что вызов на такой фейковый случай может закончиться плачевно.
