【美洲华联社9月29日旧金山讯】加州州长纽森周日否决了一项具有里程碑意义的法案，该法案旨在为大型人工智能（AI）模型制定全国第一项安全措施。
CBS的新闻报道称，这一决定对试图控制本土产业的努力是一个重大打击，该产业在几乎没有监督的情况下迅速发展。支持者表示，该法案将在全国范围内建立一些关于大规模人工智能模型的首批法规，并为全国范围内的人工智能安全法规铺平道路。
本月早些时候，这位民主党州长在软件巨头Salesforce主办的年度会议Dreamforce上告诉观众，面对联邦政府的不作为，加州必须在监管人工智能方面发挥带头作用，但该提案“可能会对该行业产生寒蝉效应”。
纽森表示，该提案遭到了初创公司、科技巨头和几名民主党众议院议员的强烈反对，可能会通过制定严格的要求来损害本土产业。
纽森在一份声明中表示：“虽然SB 1047的意图是好的，但它没有考虑到人工智能系统是否部署在高风险环境中，是否涉及关键决策或敏感数据的使用。”“相反，该法案对即使是最基本的功能也适用严格的标准，只要是一个大型系统部署它。我不认为这是保护公众免受该技术真正威胁的最佳方法。”
周日，纽森宣布，加州将与包括人工智能先驱李飞飞（Fei-Fei Li）在内的几位行业专家合作，围绕强大的人工智能模型开发护栏。李飞飞反对人工智能安全提案。
这一提案旨在降低人工智能带来的潜在风险，要求公司测试其模型并公开其安全协议，以防止模型被操纵，例如摧毁国家电网或帮助制造化学武器。专家表示，随着AI行业的持续快速发展，这些情况在未来可能会发生。它还将为工人提供举报人保护。
这一立法是立法机构今年通过的一系列法案之一，旨在规范人工智能、打击深度伪造和保护工人。州议员表示，加州今年必须采取行动，并列举了他们从未能控制社交媒体公司中吸取的惨痛教训。
这一提案的支持者包括马斯克和Anthropic，他们表示该提案本可以为大规模人工智能模型注入一定程度的透明度和问责制，因为开发人员和专家表示，他们仍然没有完全了解人工智能模型的行为方式及其原因。
法案针对的是需要超过1亿美元建设的系统。目前还没有人工智能模型达到这个门槛，但一些专家表示，这种情况可能会在明年内发生变化。前OpenAI研究员Daniel Kokotajlo说，“这是因为该行业的大规模投资规模扩大。”他于4月辞职，因为他认为该公司无视人工智能风险。“让任何私营公司不负责任地控制，这是一种疯狂的权力，而且风险也非常大。”
美国在监管人工智能以限制风险方面已经落后于欧洲。支持者表示，加州的提案不如欧洲的法规全面，但这将是围绕快速增长的技术设置护栏的良好第一步，该技术引发了人们对失业、错误信息、侵犯隐私和自动化偏见的担忧。
去年，一些领先的人工智能公司自愿同意遵守白宫制定的保障措施，例如测试和共享有关其模型的信息。该法案的支持者表示，加州法案将要求人工智能开发商遵守与这些承诺类似的要求。
但包括美国前众议院议长佩洛西在内的批评者认为，该法案将“扼杀加州科技”并扼杀创新。他们说，这会阻碍人工智能开发人员投资大型模型或共享开源软件。
纽森否决该法案的决定标志着大型科技公司和人工智能开发商在加州的又一次胜利，他们中的许多人在过去的一年里与加州商会一起游说，以影响州长和立法者推进人工智能法规。
上个月，另外2项全面的人工智能提案在立法截止日期前夭折，这2项提案也面临着科技行业和其他人越来越多的反对。这些法案将要求人工智能开发人员标记人工智能生成的内容，并禁止用于做出就业决策的人工智能工具的歧视。
