不受控的人工智能可能催生一种能与人类竞争的“硅基物种”。微软人工智能部门负责人穆斯塔法·苏莱曼发出这一警告，据infohub.kz网站报道。
苏莱曼周四在《Today》节目中发表讲话，向那些继续开发能够设定自身目标、赚钱并拥有财产的人工智能系统的公司发出警告。他表示，这“实际上等同于播下一种全新的硅基物种”，它“无论多么喜爱人类，都必然会与我们争夺资源”。
苏莱曼对BBC的评论是在他本周早些时候发表的文章之后做出的。他在文章中批评了Anthropic公司训练其名为Claude的人工智能模型的方式，但称赞该公司首席执行官达里奥·阿马代及其团队是“智力上诚实的人”。
他在文章中批评Anthropic教人工智能具有人类特质。这种做法被称为拟人化。他说，这让人感觉Claude好像有自己的欲望、价值观和自我意识。
他还警告科技公司，将技术视为人，可能会创造出无法控制的东西。
“人工智能没有意识，”他写道。“它们没有感觉，没有经历，不会痛苦。它们没有与生俱来的欲望或内在动机。它们只是完成序列的引擎，内部空洞，旨在执行指令并实现人类设定的目标。”
人工智能系统应该有多自主的问题，正日益使该行业分裂。
苏莱曼在向BBC谈及即将举行的人工智能峰会时，呼吁“协调一致”，以开发必须“服从”人类的技术。协调是一个旨在将人类伦理思想和原则融入人工智能的领域。换句话说，它旨在使技术符合人类珍视的价值观。
“我认为好消息是，每个人都会非常关心确保我们所有人构建的、在世界每个国家使用的系统是安全的、可控的并服从于人类，”他说。“一切都必须协调一致。”
微软于2025年10月成立了自己的超级智能团队。该公司也像其竞争对手Anthropic一样，致力于开发先进的人工智能。
苏莱曼的评论展示了微软《人道主义人工智能准则》的初稿。这是该公司周一发布的关于其如何开发人工智能的“教科书”，并提出了“人道主义超级智能”的理念。
正如准则中所说，这是“始终为人类工作、保持在限制范围内并处于人类控制之下的极其先进的人工智能”。
该公司对“人道主义”人工智能的看法指出了技术面临的主要任务：如何在不失去其应服务的价值观的情况下使其更强大。
更多信息由亨利·摩尔准备。