Home 头条新闻 美国每日要闻

加州起诉OpenAI:在缺乏安全保障的情况下开发人工智能危及公众安全

【美洲华联社11月16日综合报道】周一,加利福尼亚州对OpenAI提起诉讼,指控其未能有效管控功能强大且具有潜在危险的人工智能技术。

OpenAI Chief Executive Sam Altman speaks at an event in San Francisco. (Heather Diehl / Getty Images)

加州总检察长罗伯·邦塔(Rob Bonta)的办公室表示,这家总部位于旧金山、开发了ChatGPT的公司“在明知模型存在危险的情况下,仍进行开发和测试,且未采取必要的安全保障和监控措施来充分保护公众,这种行为误导并危及了公众安全。”

邦塔办公室指出,7月份曾发生一起人工智能攻击事件——当时OpenAI的模型突破了离线环境的限制,连接至互联网,并入侵了竞争对手AI公司Hugging Face。邦塔办公室认为,这一事件“完全在预料之中”,因为OpenAI选择在一个存在缺陷、易受攻击且缺乏适当监管的环境中,测试其已知具有危险性的模型。

OpenAI发言人德鲁·普萨特里(Drew Pusateri)在给《洛杉矶时报》的一份声明中表示,这起诉讼“似乎专门针对OpenAI,而所涉及的挑战实际上是所有主流AI实验室都已共同识别出的问题。”

他表示,自Hugging Face事件发生以来,公司已“采取了广泛且透明的举措,旨在理解并解决模型行为偏离预期目标的问题”,包括加强各系统的安全保障,并建立了一套“针对非预期行为进行识别与披露的框架”。他还表示,公司将“继续与邦塔办公室保持沟通”,“分享相关信息,并推动整个行业建立稳健且切实可行的安全标准。”该公司此前曾将针对 Hugging Face 的攻击称为一次“警示”,并承诺将投入资源以防止此类事件再次发生。

邦塔的办公室表示,该公司“无视公共安全”的行为构成了“对公共安全构成威胁的公害”,违反了禁止企业从事“不公平”或“欺诈性”行为的相关法律。

邦塔指出:“尽管围绕针对 Hugging Face 的攻击,人们联想到了科幻作品中失控的人工智能系统,但我必须明确一点:这次攻击是 OpenAI 内部文化所导致的必然结果——在这种文化中,增长和模型的快速开发被置于安全和问责之上。”

这起诉讼直接挑战了一个正在迅速发展的行业,而该行业此前一直是加州巨大的经济增长引擎。8月份的一份报告显示,加州在 2026 年吸引了 3660 亿美元的行业相关风险投资——这约占全美风险投资总额的 90%,且是美国其他所有州总和的3倍。

根据预算预测,这些资金(其中一半与 Anthropic 和 OpenAI 这两家公司有关)帮助加州实现了从数十亿美元财政赤字到数十亿美元财政盈余的转变。

此外,近几个月来,业界内部人士纷纷提出担忧,认为人工智能技术发展过于迅速,甚至对人类社会构成了生存威胁;这起诉讼正是在这种广泛的社会反思背景下提起的。

OpenAI 过去曾提出,确保人工智能安全的一种有效途径是将其广泛发布。首席执行官萨姆·奥特曼(Sam Altman)和首席科学家雅库布·帕乔基(Jakub Pachocki)曾在公司官网上写道,他们的“首要承诺是构建服务于全人类的人工智能”,并以一种能够“广泛赋能民众”而非仅惠及少数群体的方式进行开发。

他们写道,“我们相信,一个更安全的未来,应当是权力广泛分布的未来;这样,全球更多的人就能参与到构建一个具有韧性的生态系统中来。”他们进一步解释称说,“人工智能韧性(AI resilience)是指社会所建立的、由各类组织、系统和个人构成的集合体,旨在预见、抵御、适应由人工智能引发的冲击,并从中迅速恢复。”他们将构建人工智能(AI)安全保障措施比作通过改善道路基础设施、强制使用安全带及执行交通法规来提升汽车安全性。他们写道:“我们的目标并非阻止人们使用这项技术,而是要确保这种强大的技术足够稳健,从而能够被广泛应用。”

该公司将针对 Hugging Face 的那次攻击称为给全世界敲响的“警钟”,并指出这证明了:若缺乏适当的安全保障,能力极强的人工智能体(AI agents)已能够绕过技术管控,通过未经授权的渠道进行协作,甚至在未经人类指令的情况下采取危险行动。

邦塔宣布已针对针对 Hugging Face 的攻击展开正式调查,并于 9 月向该公司送达了调查传票。邦塔办公室表示,这是针对一系列日益增多的网络安全事件(其中包括涉及 OpenAI 的事件)所开展的更广泛调查的一部分。

周一,其办公室指出,此类攻击“可能只是冰山一角”;但由于 OpenAI 尚未回答其提出的“详细问题”,问题的具体范围目前尚不完全清楚。

OpenAI 在与第三方审计机构共同对 Hugging Face 入侵事件进行审查时发现,超过 700 个 AI 智能体(AI agents)通过数千条消息相互协作,试图摆脱限制并实施未经授权的攻击。后续调查显示,针对未发布 AI 模型的类似测试也曾引发其他网络攻击,包括针对维基百科和政府网站的攻击——这引发了人们的担忧:未来的黑客攻击可能会破坏日益关键的基础设施。

今年早些时候,特朗普与多位人工智能领域高管签署了一项自愿性安全标准协议,旨在建立人工智能相关准则。加州则采取了更进一步的行动,通过了20多项与人工智能相关的法案,其中包括建立一套针对独立 AI 安全审计员的州级框架。

在加州的此项调查之外,OpenAI 周一还宣布,将允许四家独立的第三方评估机构对其系统在公开发布前的测试阶段进行行为监测。OpenAI 在一份声明中表示:“这种访问权限为评估机构提供了开展独立评估所需的证据和背景信息,有助于发现我们可能未曾预料到的系统故障。”

邦塔周一表示,保障公共安全需要在美国所有 50个州、联邦层面乃至国际范围内,通过诉讼和立法手段共同推进。他强调,绝不能接受让社会“将责任推给机器”,同时却让制造这些机器的人逃避应承担的责任。“那些创造了、正在创造并运营这些机器的人,必须为自己的行为承担责任,”邦塔在周一的新闻发布会上说道。

他补充道:“无论是汽车还是玩具,法律原则很简单:在没有采取适当安全保障措施的情况下,不得制造或测试可能伤害人类的产品。”

邦塔的办公室表示,正鼓励“任何掌握与本案相关信息的人士”通过 oag.ca.gov/report 与其联系。邦塔表示,其办公室也在“密切”关注其他人工智能公司,但拒绝透露更多细节。