巴尔的摩四名学生提起诉讼,起因是人工智能系统误判导致警方对他们实施了粗暴拘留,据infohub.kz网站报道。
据《海峡时报》报道,事件发生在肯伍德高中附近,当时这些青少年在美式橄榄球训练结束后等车。其中一人正在吃教练给的Doritos薯片。Omnilert公司的人工智能监控系统分析了摄像头画面,错误地将这名少年手中的零食袋识别为枪支。
武装警察接到报警后赶到现场,要求这些年轻人跪下,给他们戴上手铐并进行搜查。根据起诉书内容,这些青少年当时极度恐惧,担心自己有生命危险。而其他学校工作人员及时发现了错误并取消了警报,但校长漏看了通知,仍然叫了警察。后来在与同事的通信中,她还在一则关于那包薯片的消息后附上了笑脸表情。
受害人中三人已升入大学,他们起诉了该系统开发商、学区管理层和巴尔的摩县警方。州内部调查未发现种族偏见,但确认安全规程存在故障。原告律师坚持认为,警方在照片上看到的就是一包普通薯片,却盲目相信算法而非常识。


