Anthropic公司已向美国国会提交一份人工智能安全法案，其中规定可对先进AI模型的发布或使用实施司法封禁，据infohub.kz网站报道。
根据该文件，政府机构只有在存在可预见且迫在眉睫的灾难性风险，即可能造成50人以上死亡或重伤，或物质损失超过10亿美元时，才能介入。
该公司的提案将封禁AI系统的专属权力授予美国商务部，须经联邦法官裁定。与此同时，其他联邦机构和各州将被禁止自行限制神经网络的发布。
Anthropic代表表示，该文件体现了公司自身对先进AI治理的构想，并为行业政府监管提出了合理路径。
该法案在专家和人权活动人士中引发争议。批评者指出国家介入门槛过高，并强调在系统上线前准确预测潜在受害者人数存在困难。此外，对个别州行动的限制可能削弱地方在AI安全领域的立法，使监管程序过度集中化。