【美洲华联社11月18日综合报道】加州州长纽森11月18日公布新的人工智能安全监管建议,提出进一步加强对先进AI模型的政府监督,包括建立强制性安全标准、独立第三方审查制度,以及在紧急情况下关闭危险人工智能系统的权力。

根据加州州长办公室当天发布的声明,新建议要求人工智能开发商在模型训练、开发和部署过程中接受独立安全测试,并制定风险控制程序。
其中最引人关注的是,州政府希望取得在紧急情况下要求关闭危险AI系统的权力。同时,监管机构还可能限制所谓“递归自我改进”技术,即人工智能在缺乏人类直接参与的情况下设计更先进的下一代模型。
纽森批评联邦政府在人工智能监管方面行动不足,强调加州不能等待重大安全事故发生后才采取行动。
不过,这些措施目前属于进一步完善监管体系的建议,并不意味着所有相关权力已经正式生效。
加州聚集了全球众多领先人工智能企业,监管措施可能影响硅谷科技公司的研发成本、产品推出速度和商业模式。
































