非营利基金会OpenAI Foundation的董事会迎来了一位在公司之外也颇具知名度的人物:人工智能对齐与安全领域研究员保罗·克里斯蒂亚诺加入其董事会。据TechCrunch报道,infohub.kz网站消息。

除了在基金会董事会任职外,克里斯蒂亚诺还进入了OpenAI的安全与保障委员会。这一决定是在公众和监管机构对前沿语言模型的管控与安全问题日益关注之际作出的。

保罗·克里斯蒂亚诺此前曾领导OpenAI的模型对齐团队。正是他的名字与基于人类反馈的强化学习(RLHF)方法发展的关键贡献联系在一起,该方法如今被应用于热门神经网络的开发中。

此后,这位科学家创立了研究机构对齐研究中心(ARC),还曾担任美国人工智能安全研究所(CAISI)的顾问。

克里斯蒂亚诺因警告不受控制的人工智能可能带来的风险,以及在发展超人类智能时可能对人类构成生存威胁而广为人知。

观察人士指出,引入这位权威安全专家应能加强OpenAI的公司治理,并恢复外界对公司防范与强人工智能发展相关风险政策的信任。