人工智能为2024年带来政治危险,威胁误导选民:“我们没有为此做好准备”

【美洲华联社5月14日洛杉矶报道】多年来,计算机工程师和倾向于技术的政治科学家一直警告说,廉价、强大的人工智能工具很快就会让任何人制造出逼真的假图像、视频和音频,从而愚弄选民,甚至左右选举。

出现的合成图像往往粗糙、不令人信服,制作成本高昂,尤其是当其他类型的错误信息如此廉价且容易在社交媒体上传播时。人工智能和所谓的deepfakes带来的威胁似乎总是一两年后才会出现。

复杂的生成人工智能工具现在可以以最低的成本在几秒钟内创建克隆人声和超逼真的图像、视频和音频。当与强大的社交媒体算法捆绑在一起时,这些虚假和数字创建的内容可以传播得又远又快,并针对高度特定的受众,可能会将竞选中的肮脏伎俩降到新低。

对2024年竞选和选举的影响既大又令人不安:世代人工智能不仅可以快速生成有针对性的竞选电子邮件、短信或视频,还可能被用来误导选民,冒充候选人,以前所未有的规模和速度破坏选举。

据美联社报道,网络安全公司ZeroFox负责情报的副总裁A.J.纳什警告说:“我们对此没有准备。”对我来说,最大的飞跃是已经出现的音频和视频功能。当你能够大规模地做到这一点,并在社交平台上分发时,这将产生重大影响。”

人工智能专家可以迅速说出一些令人担忧的场景,在这些场景中,生成人工智能被用来创建合成媒体,目的是混淆选民、诽谤候选人,甚至煽动暴力。

以下是一些情况:候选人的语音中的自动语音信息,指示选民在错误的日期投票;候选人据称承认犯罪或表达种族主义观点的录音;显示某人发表演讲或接受采访的视频片段。设计成看起来像当地新闻报道的虚假图片,谎称候选人退出了竞选。

艾伦人工智能研究所(Allen Institute for AI)创始人兼首席执行官Oren Etzioni表示:“如果埃伦·马斯克亲自打电话给你,告诉你投票给某个候选人,那会怎么样?”Etzioni去年辞职,创立了非盈利的AI2。“很多人都会听。但不是他。”

2024年参选的前总统特朗普在社交媒体上与他的追随者分享了人工智能生成的内容。周五,特朗普在他的Truth社交平台上分享了一段被操纵的CNN主持人安德森·库珀的视频,该视频扭曲了库珀上周与特朗普在CNN市政厅的反应,该视频是使用人工智能语音克隆工具制作的。

上个月,共和党全国委员会发布了一则反乌托邦的竞选广告,让人们再次看到了这个被数字操纵的未来。这则网络广告是在拜登总统宣布竞选连任后发布的,以一张奇怪的、略显扭曲的拜登照片和文字开头:“如果我们有史以来最软弱的总统再次当选怎么办?”

一系列人工智能生成的图像如下:台湾受到攻击;随着经济崩溃,美国的店面被封死;士兵和装甲军车在当地街道上巡逻,纹身的罪犯和一波又一波的移民制造了恐慌。

RNC的广告描述中写道:“如果拜登在2024年再次当选,人工智能将对国家可能的未来进行展望。”

总部位于得克萨斯州奥斯汀的网络安全公司Forcepoint的全球首席技术官Petko Stoyanov表示,共和党全国委员会承认其使用了人工智能,但其他人,包括邪恶的政治运动和外国对手,不会。Stoyanov预测,希望干预美国民主的团体将利用人工智能和合成媒体来削弱信任。

Stoyanov说:“如果一个国际实体——网络罪犯或民族国家——冒充某人,会发生什么?会有什么影响?我们有追索权吗?”。“我们将看到更多来自国际来源的错误信息。”

2024年大选前,人工智能生成的政治虚假信息已经在网上疯传,从拜登似乎发表演讲攻击变性人的篡改视频,到人工智能生成儿童在图书馆学习撒旦教的图像。

显示特朗普面部照片的人工智能图像也愚弄了一些社交媒体用户,尽管这位前总统在曼哈顿刑事法院因伪造商业记录而被登记和传讯时没有拍摄。其他人工智能生成的图像显示特朗普拒捕,尽管它们的创作者很快承认了它们的来源。

纽约州民主党众议员Yvette Clarke在众议院提出了一项立法,要求候选人为用人工智能制作的竞选广告贴上标签,她还发起了一项法案,要求任何制作合成图像的人都添加一个表明事实的水印。

一些州提出了自己的建议来解决对deepfakes的担忧。

Yvette Clarke说,她最担心的是,在2024年大选之前,生成人工智能可能会被用来创建煽动暴力并使美国人相互对立的视频或音频。

Yvette Clarke对美联社说:“我们必须跟上技术的步伐。”。“我们必须设置一些护栏。人们可能会被欺骗,只需要一瞬间。人们忙于生活,没有时间检查每一条信息。在政治季节,人工智能被武器化,可能会造成极大的破坏。”

本月早些时候,华盛顿的一个政治顾问行业协会谴责在政治广告中使用deepfakes,称其为“骗局”,“在合法、道德的竞选活动中没有立足之地”。

多年来,其他形式的人工智能一直是政治竞选的一个特点,它使用数据和算法来自动化任务,如在社交媒体上瞄准选民或追踪捐赠者。竞选策略师和科技企业家希望最新的创新也能在2024年带来一些积极的影响。

进步数字机构Authentic的首席执行官Mike Nellis表示,他“每天”都在使用ChatGPT,并鼓励他的员工也使用它,只要之后用该工具起草的任何内容都经过人眼审查。

Nellis与高地实验室合作的最新项目是一种名为Quiller的人工智能工具。它将编写、发送和评估筹款电子邮件的有效性,所有这些都是典型的乏味的竞选任务。

他说:“我们的想法是,每个民主党战略家,每个民主党候选人的口袋里都会有一个副驾驶。”