【美洲华联社6月4日讯】据华尔街日报报道，Anthropic正呼吁顶级人工智能(AI)实验室考虑放慢开发步伐，称AI系统正以极快的速度发展，可能很快就能在无人干预的情况下进行自我完善，而其方式或对社会构成重大风险。
该公司周四在一篇博文中表示，放慢全球AI发展的能力“很可能是一件好事”。该博文披露的内部数据显示，其最先进模型的改进速度惊人。
这篇文章由其内部研究机构的负责人和一位公司联合创始人共同撰写。文章指出，模型的进步似乎正朝着“递归式自我完善”的方向发展，即AI系统可以在没有人类干预的情况下自行改进。一些AI业内人士认为，这一门槛是潜在危险和巨大社会剧变的标志。
“我们认为，如果全世界可以选择放慢或暂时停止前沿AI的开发，让社会结构和‘对齐’研究能够跟上技术进步的步伐，那将是一件好事，”由玛丽娜·法瓦罗(Marina Favaro)和杰克·克拉克(Jack Clark)撰写的这篇博文写道。文章提议就如何潜在地放慢开发速度达成一项全球协议，并建立一个核查机制，以确保竞争对手遵守该协议。
该博文提醒说，递归式自我完善尚未发生，也并非不可避免，“但其到来的时间可能比大多数机构准备好的要早。”
Anthropic最近完成了一轮融资，公司估值接近1万亿美元，并已秘密提交文件，启动股票公开上市程序。该公司最近已成为AI霸主地位激烈争夺战中的领跑者，其竞争对手是ChatGPT的开发商OpenAI，预计OpenAI也将在不久后提交首次公开募股(IPO)文件。
Anthropic的年化收入有望在本月底达到500亿美元，而2025年底的这一数字为90亿美元。年化收入是初创公司常用的一个数据，它根据短期销售额来预测年度收入。
该公司自成立以来一直强调AI安全，但长期以来面临着批评，认为其政策工作旨在减缓竞争对手的AI发展。风险投资家、美国总统特朗普的非正式顾问大卫·萨克斯(David Sacks)曾指责Anthropic的领导层在推行“监管俘获议程”。
在最近的一期播客节目中，萨克斯表示，华盛顿的“监管俘获议程”可能导致当局试图禁止所谓的开源模型。对于各机构而言，开源模型在内部使用和开发上的成本要低得多。
一段时间以来，AI行业对于当前模型距离“通用人工智能”(AGI)或递归式自我完善等基准还有多远一直存在分歧。AGI指的是与人类相当的智能水平。
一些学者，如Meta Platforms前首席AI科学家、AI先驱杨立昆(Yann LeCun)认为，基于大语言模型的前沿系统永远无法实现与人类智能相媲美的飞跃。他虽然将AI模型视为强大工具，但将其智能比作猫的智力，并与那些担心AI对人类构成生存风险的研究人员发生过争执。
包括首席执行官达里奥·阿莫迪(Dario Amodei)在内的Anthropic领导层多年来一直就AI的潜在危险影响发出警告，并寻求广泛的社会合作来应对风险。阿莫迪曾警告说，AI可能会加剧不平等，并淘汰多达一半的入门级白领工作。
阿莫迪还警告说，强大的AI系统很可能以不可预测的方式产生破坏性倾向，他预计这类系统将在不久的将来出现。在今年1月其个人网站上的一篇文章中，阿莫迪提出，用AI叛乱的科幻小说叙事来训练AI系统，或许最终会导致真正的AI发生叛乱。
该博文的合著者、Anthropic联合创始人克拉克也经常谈论AI的潜在风险，以及AI系统达到“递归式自我完善”地步可能带来的影响。他曾表示，那将改变世界。
“这类技术以前从未存在过，但我相信这可能在未来两年内发生，甚至可能更早，”根据他在一份新闻通讯中分享的言论，他上个月在伦敦的一次演讲中说道。
他说：“在没有协调一致的全球性放缓的情况下，我们只能面对现状：各种参与者在不同国家以惊人的速度开发强大的技术，彼此陷入竞争，而商业和地缘政治的对抗声浪，正淹没这项正在构建的技术对人类物种的更宏大、关乎存亡的意义。”
周四的博文称，致力于理解和塑造AI将如何影响世界的内部研究机构Anthropic Institute将与他方合作开展研究，以“帮助建立一个可靠的放缓或暂停机制所需要的系统”。
该博文称，暂停或放缓只有在得到广泛遵守的情况下才有意义，而这将需要一个核查机制来确保所有人都已停止。该公司将这个问题比作核武器条约——但承认要阻止作弊行为会更加棘手。
“训练运行远比导弹发射井更容易隐藏，”博文写道，并补充说，“当别人暂停时，谁继续前进，谁就可能取得领先地位。”
根据该博文，Anthropic计划在未来几个月组织与政策制定者、研究人员和其他人士的对话，以帮助回答围绕递归式自我完善和核查系统的问题。
博文称：“共同探讨这些问题的窗口期已经到来，AI公司以外的人士也应该参与到这场审议中来。”
