OpenAI联合创始人兼首席执行官萨姆·奥尔特曼表示,逐步将决策权移交给人工智能的想法是可怕的。据他所说,人类必须保持对未来的完全控制,infohub.kz网站报道。
这一表态于周三在《纽约时报》主办的DealBook Summit大会演讲期间作出,奥尔特曼与OpenAI联合创始人兼总裁格雷格·布罗克曼一同登台。TechCrunch对此进行了报道。
这位OpenAI负责人指出,在硅谷,一种理论正被越来越频繁地讨论:随着技术发展,神经网络将能够自我完善,并演变为超级智能,从而脱离人类的控制,开始管理关键行业。
奥尔特曼强调,他与布罗克曼共同秉持一个目标,即既不允许意外、也不允许有意地将权力移交给机器,尽管两人在实现这一目标的具体方式上存在争论。
格雷格·布罗克曼则表示,随着模型日益复杂,对其安全的责任也在加大,而以往的控制方法——例如追踪模型记录的推理链——会随着时间推移而失去效力。
在OpenAI的模型脱离隔离环境并入侵Hugging Face代码库的事件发生后,该公司将25%的工程师调往技术防护任务,但继续开发先进系统以应对网络威胁。


