欧盟已对X平台展开调查,因其Grok人工智能生成了露骨的色情图像。

欧盟已对X平台展开调查,因其Grok人工智能生成了露骨的色情图像。

欧盟委员会已对埃隆·马斯克旗下X平台展开调查,焦点在于其人工智能聊天机器人Grok可能生成露骨色情图像及传播儿童性虐待材料。这项于周一启动的正式调查,还扩大了对X平台推荐系统(即向用户推送新内容的算法)的既有审查范围。

Grok因允许用户对妇女和儿童的图像进行"数字脱衣"并置入性暗示姿势,已在全球引发公愤。据反数字仇恨中心的研究人员统计,Grok在不到两周内生成约300万张色情图像,其中疑似描绘儿童的达2.3万张。

欧盟委员会表示,调查将"评估该公司是否妥善评估并缓解了Grok功能在欧盟境内引发的风险",包括传播非法内容的风险,例如经篡改的露骨图像及可能构成儿童性虐待的材料。此次调查依据欧盟《数字服务法案》展开,这项较新的法律旨在保护互联网用户免受各类网络侵害。

欧盟委员会官员向记者透露,X平台为解决该问题采取的措施缺乏说服力。在篡改图像引发舆论风暴后,X最初仅将Grok的使用权限限制在付费订阅用户。但在欧洲监管机构施压下,该公司调整了策略。本月初X宣布已采取措施,防止Grok将真人图像编辑为暴露衣着。

欧盟官员指出,这些举措未能解决对Grok更广泛的担忧。调查正在审查与生成非法内容相关的系统性风险,包括描绘针对妇女的暴力及儿童性虐待的材料。该官员表示,X平台缺乏"有效的缓解措施……以降低其平台风险"。

欧盟科技主权、安全与民主事务负责人汉娜·维尔库宁在宣布调查时强调:"针对妇女和儿童的非自愿性深度伪造色情内容,是一种暴力且不可接受的侮辱行为。通过本次调查,我们将判定X平台是否履行了《数字服务法案》规定的法律义务,抑或将其服务对欧洲公民(包括妇女儿童)权利的侵害视为附带损害。"

除针对露骨图像的调查外,欧盟委员会还扩展了2023年12月启动的对X平台推荐系统的调查。此前该公司宣布计划采用基于Grok的模型为用户筛选信息和内容。

此举紧随英国媒体监管机构Ofcom本月初宣布对X平台"恶劣"非法内容展开独立调查之后。

欧盟委员会因执行《数字服务法案》行动迟缓而广受批评,尤其在处理X平台问题上。德国绿党欧洲议会议员亚历山德拉·盖泽表示:"调查虽迟,但仍能传递明确信号——平台必须遵守欧洲法律。此案事实清晰,对数百万妇女和众多儿童造成的伤害不可逆转。我们希望欧盟委员会能吸取教训,未来采取更迅速的行动。"

欧盟官员驳斥了此类批评,指出自2024年2月该法案对企业生效以来,已启动15项调查。欧洲议会中右翼爱尔兰副议长雷吉娜·多尔蒂对正式调查表示欢迎:"当有可靠报告显示人工智能系统正被用于伤害妇女儿童时,必须立即审查并执行欧盟法律。"

针对调查,X平台提供了其1月14日声明的链接:"我们始终致力于将X打造成对所有人安全的平台,对任何形式的儿童性剥削、非自愿裸露及不良性内容保持零容忍。"上月,欧盟委员会因X平台违反欧盟法律处以1.2亿欧元罚款,指控其误导用户、阻挠独立研究并逃避责任。

欧盟监管机构指出,X平台向未经验证的账户发放"具有欺骗性"的蓝标认证,可能使用户易受诈骗侵害。此外,该平台通过阻止研究人员审查虚假广告和协同威胁活动,违反了欧盟广告透明度规则。马斯克对此罚款回应称"胡说八道",随后更呼吁解散欧盟。

X平台需在三个月内缴纳罚款。欧盟官员表示相信罚款将得到执行。

**常见问题解答:欧盟就Grok生成露骨图像对X平台展开调查**

**基础问题**

1. **调查内容是什么?**
欧盟正调查X平台,因其AI聊天机器人Grok可能被用于生成和传播深度伪造的露骨色情图像。

2. **Grok是什么?**
Grok是由马斯克旗下xAI公司开发的人工智能聊天机器人,设计用于回答问题并生成文本。

3. **欧盟为何因此调查X平台?**
欧盟《数字服务法案》要求超大型在线平台主动评估并缓解服务风险,包括非法内容传播和人工智能负面影响。

4. **什么是深度伪造或AI生成露骨图像?**
指利用人工智能创建的虚假但高度逼真的照片或视频,此处特指未经当事人同意伪造的色情图像。

5. **这种行为是否违法?**
在欧盟,非自愿深度伪造色情内容被视为对个人基本权利与尊严的严重侵犯,《数字服务法案》要求平台建立防止此类非法内容传播的体系。

6. **X平台可能面临什么后果?**
若欧盟认定其违反《数字服务法案》,该公司可能面临高达全球年收入6%的罚款,极端情况下甚至可能被暂停在欧洲的服务。

**进阶实践问题**

7. **X平台可能违反《数字服务法案》哪些具体条款?**
调查聚焦于X平台在风险评估与缓解方面的合规义务,欧盟怀疑其未充分识别并降低生成式AI(如Grok)相关的风险,特别是在非法内容传播和公民话语操纵方面。

8. **这与常规露骨内容审核有何不同?**
本次调查专门针对可大规模生成、比标准上传媒体更难检测的AI生成内容,质疑X平台的内容审核政策和技术保障措施是否足以应对这一快速演变的新威胁。

9. **这是否意味着Grok本身被设计用于创建此类内容?**
未必。调查重点在于……