【美洲华联社1月6日讯】据美联社报道，马斯克的人工智能聊天机器人Grok正面临全球政府的强烈反对，因为最近人工智能驱动的工具未经同意而生成的妇女和儿童的性化图像激增。
周二，英国高级技术官员要求马斯克的社交媒体平台X采取紧急行动，而一名波兰立法者将其作为颁布数字安全法的理由。
欧盟执行部门谴责了Grok，而法国、印度、马来西亚和巴西的官员和监管机构谴责了该平台，并呼吁进行调查。
各国日益增长的担忧表明，利用人工智能生成性露骨的深度伪造图片的“裸体化”应用程序具有可怕的潜在危害。
以下是更详细的介绍：
图像生成
这个问题是在去年Grok Imagine推出后出现的。Grok Imagine是一款人工智能图像生成器，允许用户通过输入文本提示来创建视频和图片。它包含一个所谓的“辣味模式”，可以生成成人内容。
上个月底，这个问题迅速升级。Grok（托管在X平台上）似乎开始允许大量用户修改其他人发布的图片。截至周二，Grok用户仍然可以使用诸如“让她穿上透明比基尼”之类的请求来生成女性图片。
这个问题之所以更加严重，是因为马斯克将他的聊天机器人宣传为比竞争对手更前卫、但安全措施更少的替代品，而且Grok生成的图片是公开可见的，因此很容易传播。
非营利组织AI Forensics在一份报告中称，他们分析了Grok在12月25日至1月1日期间生成的2万张图片，发现其中2%的图片描绘的是看起来18岁或以下的人，包括30张穿着比基尼或透明衣服的年轻女性或女孩的图片。
马斯克的回应
马斯克的人工智能公司xAI对置评请求的回应是自动回复：“传统媒体谎言”。然而，X公司并未否认Grok生成了这些令人不安的内容。但该公司在其安全账号上发布的一篇帖子中声称，他们正在对非法内容采取行动，包括儿童性虐待材料，“通过删除内容、永久封禁账号，并在必要时与地方政府和执法部门合作”。
该平台还重申了马斯克的一段评论，马斯克表示：“任何使用Grok制作非法内容的人都将面临与上传非法内容相同的后果。”
越来越多的国家要求马斯克采取更多措施来遏制露骨或辱骂性内容。
英国
英国科技大臣莉兹·肯德尔周二表示，X公司必须“紧急”处理这个问题，并补充说她支持英国通信监管机构Ofcom进行进一步审查。
肯德尔表示，这些内容“绝对令人震惊，在文明社会中是不可接受的”。“我们不能也不会允许这些贬低和侮辱性图像的传播，这些图像主要针对女性和女孩。”
Ofcom周一表示，已与X公司“紧急联系”。“我们注意到有人对X平台上的Grok功能提出了严重的担忧，该功能会生成人们的裸体图像和儿童的性化图像。”
该监管机构表示，已联系X公司和xAI公司，以了解他们已采取哪些措施来遵守英国法规。
根据英国的《在线安全法》，社交媒体平台必须在发现儿童性虐待材料后立即阻止和删除这些内容。
波兰
波兰一位议员周二以Grok为例，呼吁制定国家数字安全立法，以加强对未成年人的保护，并使当局更容易删除相关内容。在一段在线视频中，波兰议会议长沃洛齐米尔兹·查尔扎斯蒂表示，他希望自己成为Grok的攻击目标，以突出这个问题，并呼吁波兰总统支持这项立法。他说，“Grok最近一直在‘脱光’人们的衣服。它让女性、男性和儿童裸体。我们对此感到不安。说实话，我几乎希望Grok也能‘脱光’我的衣服。”
欧盟
欧盟委员会发言人托马斯·雷尼尔表示，欧盟执行机构“非常清楚”Grok 被用于生成“露骨的性内容，其中一些输出内容包含儿童形象”。
“这不是什么小事。这是非法的。这令人震惊。这令人厌恶。我们就是这么看待这件事的，这种行为在欧洲没有立足之地。这也不是 Grok 第一次生成此类内容，”他周一告诉记者。
雷尼尔表示，去年 Grok 传播否认大屠杀的内容后，欧盟委员会已向马斯克的社交媒体平台 X 寻求更多信息。他表示，目前正在对 X 的回复进行分析。
法国
巴黎检察官办公室表示，在收到议员的投诉后，他们正在扩大对X的调查范围，将涉及性内容的深度伪造视频纳入调查。
根据法国政府上周发布的一份声明，3位政府部长已向检察官举报了Grok生成并在X上发布的“明显非法内容”。
法国政府还就可能违反欧盟《数字服务法》的问题向该国通信监管机构提出了担忧。
法国政府表示：“互联网既不是法外之地，也不是可以逍遥法外的地方：在线实施的性犯罪本身就构成刑事犯罪，完全受法律管辖，就像线下犯罪一样。”
印度
印度政府周五向X发出最后通牒，要求其删除所有“非法内容”并对违规用户采取行动。
印度电子和信息技术部还命令该公司审查Grok的“技术和治理框架”，并提交一份关于已采取措施的报告。
该部指责Grok“严重滥用”人工智能，并在安全保障和执法方面存在严重缺陷，允许生成和分享“以贬低或粗俗的方式描绘女性的淫秽图像或视频，以达到猥亵诽谤的目的”。
该部警告称，如果未能在72小时的最后期限内遵守规定，该公司将面临更大的法律问题，但最后期限已过，印度方面尚未发布任何公开更新。
马来西亚
马来西亚通信监管机构周六表示，正在调查违反法律传播“极其冒犯、淫秽或不雅内容”的X用户。
马来西亚通信和多媒体委员会表示，他们还在调查X上的网络危害，并将传唤公司代表。 该监管机构表示，他们注意到公众投诉称，X的人工智能工具被用于数字篡改“女性和未成年人的图像，以制作不雅、极其冒犯或其他有害内容”。
巴西
议员埃里卡·希尔顿表示，她已向巴西联邦检察官办公室和该国数据保护监管机构举报了Grok和X。 她在社交媒体上发帖指责两者未经同意生成并发布了女性和儿童的性化图像。 她表示，在调查完成之前，应该禁用X的人工智能功能。巴
西首批跨性别议员之一希尔顿谴责称，用户可以利用 Grok 数字工具随意修改任何已发布的照片，包括“将女性和女孩的衣服换成比基尼，或者让照片变得具有暗示性和色情意味”。 她表示：“肖像权是个人权利；它不能通过社交网络的‘使用条款’转让，而人工智能集成到社交网络中并大规模传播儿童色情内容，这已经越过了所有底线。”
