本应提供帮助的人工智能却开始混淆账户,向无关人员展示个人隐私信息,包括银行账户余额。据TechCrunch援引路透社报道,这一消息来自Meta公司内部员工通讯,infohub.kz网站对此进行了报道。

据该媒体报道,Meta公司开发的AI代理Muse会混淆不同账户之间的对话,泄露用户的机密数据。公司员工报告称,该应用出现故障,未经许可便发送第三方消息、账户余额以及来自加密即时通讯软件的通知。

正在测试该服务的Meta员工表示,该神经网络向他们展示了他人关于育儿咨询的请求、不请自来的职业建议、商品订单信息以及银行账户余额。一名员工向同事反映,在一个关于天气和潮汐的聊天中,Muse突然给他发来一条额外消息,其中包含Capital One和Charles Schwab银行的账户余额。

另一起案例中,一名在个人手机上使用该代理的女员工收到提醒,要她回复妹妹在端到端加密的Signal即时通讯软件中的消息。她称这是严重的隐私侵犯,并强调她并未授予该应用访问其他程序的权限。

Meta发言人在接受TechCrunch采访时解释称,内部测试是开发工作的一部分,有助于引入数据保护机制。公司方面表示,员工可以访问与公开版本不同的Muse版本,并测试尚未向广大用户开放的功能。

Muse应用于9月上线,下载量已超过1000万次。