【美洲华联社9月18日沙加缅度讯】加州州长纽森9月18日签署行政令，要求州政府加快建立人工智能独立监督和安全审计制度，并推动专家在两个月内提出进一步强化监管的建议。行政令涉及先进人工智能模型的风险评估、独立机构参与安全审查，以及研究在极端情况下停止人工智能系统运行的技术和制度安排。
随着人工智能被广泛应用于医疗、金融、教育、交通、公共服务和企业管理，模型可能产生错误信息、隐私泄露、算法歧视、网络安全风险和自动化决策失误等问题。加州是美国科技产业和人工智能企业最集中的地区之一，因此州政府的监管政策不仅影响本州企业，也可能对全美乃至全球人工智能行业产生示范效应。
此次行政令的重点之一，是推动独立监督机制。按照相关设想，人工智能系统的安全评估不应完全由开发企业自行完成，而应由具备专业能力、相对独立的机构或专家进行审查。审计内容可能包括模型训练数据、风险控制措施、系统在异常情况下的表现，以及企业是否及时报告重大安全事件。
行政令还要求研究先进人工智能模型的“紧急关闭开关”。这一概念通常指，在人工智能系统出现严重失控、被恶意利用或造成重大现实风险时，能够迅速暂停或限制其运行的技术和管理机制。不过，所谓“关闭开关”并不意味着目前已经存在一个可以对所有人工智能系统统一操作的按钮，也不代表加州已经全面强制所有企业安装此类装置。
实际操作中，人工智能系统往往由多个服务器、云平台、应用程序和第三方接口组成。即使关闭某一模型，也可能无法立即停止所有相关服务。因此，紧急停止机制需要同时考虑技术权限、企业责任、用户通知、数据保存、网络安全和跨境运营等问题。若政府直接要求企业关闭系统，也可能引发商业损失、合同纠纷和监管权限争议。
纽森政府表示，人工智能监管需要在鼓励创新与防范风险之间取得平衡。支持者认为，独立审计能够提高公众信任，避免企业只报告有利信息。科技行业部分人士则担心，过于严格或模糊的监管可能增加中小企业成本，导致创新活动转移到监管较宽松的地区。
未来两个月内，专家团队预计将围绕监管机构设置、审计标准、风险分级、事故报告和紧急干预权限提出建议。最终政策是否需要经过州议会立法、是否适用于所有人工智能企业，以及如何与联邦监管框架衔接，仍有待进一步明确。
