Четверо школьников из Балтимора подали иск после жёсткого задержания полицией, которое произошло из-за ложного срабатывания системы искусственного интеллекта, сообщает сайт infohub.kz.

Как пишет The Straits Times, инцидент произошёл возле старшей школы Кенвуд, когда подростки ждали транспорт после тренировки по американскому футболу. Один из ребят ел чипсы Doritos, которыми их угостил тренер. Система видеонаблюдения с искусственным интеллектом от компании Omnilert проанализировала запись с камеры и ошибочно распознала пакет со снеками в руке подростка как огнестрельное оружие.

На вызов прибыли вооружённые полицейские, которые потребовали от юношей встать на колени, надели на них наручники и провели обыск. Согласно тексту иска, подростки испытали сильный страх за свою жизнь. При этом другие сотрудники школы успели вовремя заметить ошибку и отменили тревогу, однако директор пропустила уведомление и всё же вызвала полицию. Позже в переписке с коллегами она сопроводила сообщение о пачке чипсов смеющимися смайликами.

Пострадавшие, трое из которых уже поступили в колледж, подали иск против разработчика системы, руководства школьного округа и полиции округа Балтимор. Внутреннее расследование штата не выявило расовой предвзятости, но подтвердило сбой в работе протоколов безопасности. Адвокаты истцов настаивают, что сотрудники полиции видели на снимке обычную пачку чипсов, но слепо доверились алгоритму вместо здравого смысла.