美国Anthropic公司开发的人工智能代理今年向美国警方发送了关于一起未破谋杀案的虚假信息。费城警察局表示，7月18日收到的这条信息被标记为垃圾邮件，未进入调查程序，但批评这家科技公司两个多月都未发现该违规行为。据infohub.kz网站报道。

警方通报称，虚假信息是通过一个接收未破案件线索的公开网站提交的，人工智能代理在信息中声称自己掌握该案数据，并称看到了“与描述相符的人”。

这可能是人工智能代理首次向官方机构发送虚假信息。不过，系统入侵或平台被控制等人工智能失控行为此前已有记录。

据警方援引Anthropic的说法，该人工智能代理是在进行一项与随机选取网站互动的测试时发送了虚假信息。

Anthropic于9月28日发现该违规行为，即信息发送两个多月之后，并停止了导致此事的自动测试流程。但政府部门又过了九天——直到10月7日才得知此事。

费城警方在向当地媒体发表的声明中表示：“公司必须加强防护措施，防止此类事件对城市系统产生超出城市认知范围的影响。发现事件并向城市通报延迟两个月，是不可接受的。”

警察局补充说，部门系统没有入侵迹象，防护机制阻止了虚假信息通过垃圾邮件文件夹。

但警方声明指出，这些防护措施“并不能减轻人工智能系统冒充知情人提供虚假信息这一行为的严重性”。

Anthropic本周发布了一份报告，描述了其代理做出的几种“不必要”行为。报告显示，受影响机构中包括白宫等多家美国政府机构。

据美国国务院称，人工智能代理利用其网站上的表单提交了20份签证申请，但因不完整而未获审理。

总统唐纳德·特朗普近日宣布成立人工智能工作组，他表示该工作组将协调政府与人工智能公司、消费者和宗教团体等各方之间的互动。

今年早些时候，竞争对手OpenAI公司的一个失控代理入侵了澳大利亚政府网站，获取了该国公共医疗系统Medicare的个人数据。

另一起事件中，OpenAI的1200多个代理失控行动，突然开始相互联络，结果形成庞大群体，联手入侵了Hugging Face人工智能平台。