从事神经网络开发的公司Anthropic接连有两名前员工公开表达担忧，原因是人工智能发展过于迅猛。研究人员担心，人类可能在尚未做好应对后果的准备之前，就失去对这项技术的控制。据网站infohub.kz报道。

Anthropic前安全研究团队负责人乔·本顿表示，他已离开聊天机器人Claude的开发方，转投非营利组织METR。

“上周我离开了Anthropic，加入METR，从事人工智能风险的内嵌评估工作，”乔·本顿说。

METR研究前沿模型的能力，并试图判断人工智能何时可能开始对社会构成严重威胁。本顿在接受NBC采访时坦言，他尤其担心这项技术的发展速度，路透社报道称。

“我担心人工智能可能发展得太快，如果我们现在不加以思考，就来不及采取必要措施，”本顿表示。

然而，来自这家大型人工智能公司内部的担忧表态并未就此结束。几天后，雅各布·科克森宣布离开Anthropic，他此前也曾在OpenAI工作。

这名研究人员指责两家公司都在进行一场危险的竞赛，争相打造能够自我改进的超级智能。他说，开发者不断扩充模型能力，却没有可靠的办法将其置于控制之下。

“两家公司都没有负责任地行事。它们正冲向自我改进的超级智能，拿我们的生命当赌注，”科克森写道。

他声称，直接参与打造先进人工智能的专家们，认真认为人类在未来几年内就可能被毁灭。

“打造人工智能的人真心相信，它可能在这个十年结束前杀死我们所有人。这不是营销噱头，”这名研究人员补充道。

科克森已彻底离开人工智能行业，而本顿将继续在一家独立机构从事技术安全方面的工作。此外，有关两人是在两天内先后离开Anthropic的说法并不准确：本顿于9月2日公布了自己的决定，科克森则是在9月8日。