【美洲华联社7月14日洛杉矶报道】加州参议院司法委员会于7月13日批准了AB 13号法案,该法案由加州众议员周本立(Ed Chau,D-蒙特利公园)起草。这项法案将为公共实体使用的算法驱动系统带来责任感和透明度,这些系统依靠机器学习或人工智能做出影响人们生活的决策。
据周本立办公室介绍,具体地说,AB 13,题为自动决策系统责任法案,将创建第一个全州算法责任框架,其中规定了政府实体采购高风险自动化决策系统的标准,以便将其设计和应用所产生的不利和歧视性影响的风险降至最低。
周本立说:“设计拙劣的算法驱动系统会产生不公平、有偏见和不准确的结果,对低收入家庭和有色人种社区造成不成比例的伤害,同时也会破坏对公共部门的信任。如果购买和使用这些系统的政府机构没有对这些系统进行明确的监督,在确保这些系统不会造成新的危害或导致影响我们合法权利的歧视性决定方面,我们的责任是失败的。”
根据布鲁金斯学会(Brookings Institution)人工智能和新兴技术倡议(Artificial Intelligence and Emerging Technology Initiative)2019年的一份报告,“算法或自动决策系统使用数据和统计分析对人们进行分类,并评估他们是否有资格获得福利或惩罚。”这些系统的应用可以帮助做出信贷决策、就业筛选、保险资格以及提供政府服务、刑事司法判决和缓刑决定。
根据绿Greenlining研究所的一份题为“算法偏差解释:自动决策如何变成自动歧视”的报告,当一个算法决策产生了不公平的结果,不合理地、任意地将某些群体凌驾于其他群体之上时,就会产生算法偏差。这一点很重要,因为算法充当着经济机会的把关人。Greenlining研究所是2021年自动决策系统责任法案的发起人。
周本立表示,在政府机构获得这些系统时,我们必须审查州的采购政策。AI Now研究所的一份报告建议公共机构在采购过程中采用影响评估,以确保自动化决策系统更加准确、公平,并在系统上线并开始影响公众之前解决潜在问题。《自动决策系统问责法》提高了各机构的内部专业知识和能力,以评估它们采购的系统,帮助避免公众反弹,并预测不同影响或违反正当程序等问题。
Greenlining研究所技术公平法律顾问Vinhcent Le说,“我们必须确保我们的政府和公共机构在购买控制获得住房、信贷、政府服务和经济机会的高风险算法时了解风险和潜在影响。我们一次又一次地看到,当这些系统失灵时,有色人种社区和低收入家庭首当其冲受到伤害。Greenlining研究所感谢委员会对《自动决策责任法案》的支持,该法案为确保我们的政府算法公平公正迈出了关键的第一步。如果我们要缩小种族贫富差距,重建公众对政府和技术的信任,这一点至关重要。”
加州众议员周本立第49选区,由阿罕布拉、亚凯迪亚、艾尔蒙地、蒙特利公园、柔似密、圣盖博、圣马力诺、天普市和蒙地贝娄和南艾尔蒙地市的部分社区组成。