西班牙政府将要求检察官对社交媒体公司X、Meta和TikTok展开调查，以确定它们是否因涉嫌允许其人工智能生成和传播儿童性虐待材料而构成犯罪。
首相佩德罗·桑切斯表示，这一决定旨在保护"我们子女的心理健康、尊严和权利"，并终结大型社交媒体平台的"有罪不罚"现象。
此举基于一份专家报告，该报告分析了通过深度伪造或篡改图像制作和传播性内容及儿童性虐待等行为的潜在刑事责任，这些行为侵犯了受害者的尊严。报告警告称，社交媒体公司可能因助长此类材料的快速、广泛和不透明传播而牵涉其中，使得检测变得困难，并为制作、分享和从中牟利的网络提供了便利。
内阁于周二同意了这一举措，政府正在准备相关措施，包括禁止16岁以下未成年人使用社交媒体，以及立法追究科技公司对有害内容的责任。此前不到一个月，欧盟委员会对X展开了调查，原因是其人工智能聊天机器人Grok可能生成了露骨性图像和儿童性虐待材料。
周二，爱尔兰数据保护委员会宣布对Grok的生成式人工智能功能进行"大规模"调查。副专员格雷厄姆·多伊尔表示，该委员会正在审查用户是否可能诱导Grok生成包括儿童在内的真实人物的性化图像，以及X是否遵守了关于欧盟/欧洲经济区公民个人数据的《通用数据保护条例》义务。
西班牙政府发言人埃尔玛·赛兹表示，马德里不会允许针对儿童的数字化性暴力被算法"放大或保护"，并强调了儿童的安全、隐私和自由。内阁将正式要求总检察长展开调查，并在适用情况下起诉违规公司。
Meta表示，在未获得详细信息的情况下无法对拟议的调查发表评论，但强调其坚决反对儿童性剥削和非自愿亲密图像（无论是真实的还是人工智能生成的），并制定了删除此类内容的政策。X和TikTok也已被联系以征求意见。
桑切斯追究社交媒体公司责任、保护儿童免受他所谓的"数字蛮荒之地"侵害的努力，引发了一些大型科技公司老板的强烈反应。本月早些时候，他认为需要采取紧急行动，因为社交媒体已成为一个"法律被忽视、犯罪被容忍的失败国家"。
他还批评埃隆·马斯克利用X"放大"关于政府决定使50万无证工人和寻求庇护者合法化的"虚假信息"，并指出马斯克本人就是移民。马斯克回应称桑切斯是"暴君和西班牙人民的叛徒"，是"真正的法西斯极权主义者"。西班牙政府的计划还招致了俄罗斯科技企业家、Telegram联合创始人帕维尔·杜罗夫的批评。在向西班牙所有Telegram用户发送的一条群发消息中，他指责桑切斯政府"推行威胁互联网自由的新危险法规"，并警告称这些措施可能使西班牙"在'保护'的幌子下变成监控国家"。
西班牙政府消息人士回应称，杜罗夫向数百万用户发送的前所未有的信息旨在破坏对机构的信任，并凸显了监管社交媒体和即时通讯应用的必要性。他们表示："西班牙人不能生活在一个外国科技寡头可以随意用宣传淹没我们手机的世界里，仅仅因为政府宣布了保护未成年人和执法的措施。"
对社交媒体有害影响的日益担忧促使包括西班牙、英国、希腊和法国在内的多个国家政府采取或考虑更严格的立法。去年12月，澳大利亚成为首个禁止16岁以下儿童使用此类平台的国家。
**常见问题解答**
以下是关于西班牙应对人工智能生成儿童虐待内容方法的常见问题解答，适用于社交媒体讨论：
**初级问题**
1. **什么是人工智能生成的儿童虐待内容？**
这是完全由人工智能创建的逼真儿童性虐待图像或视频，不涉及真实儿童参与制作。但它仍然是非法且有害的。
2. **这在西班牙真的是个问题吗？**
是的，西班牙当局如国民警卫队已将其视为日益严重且严重的威胁，因为它助长了需求并使虐待行为正常化，即使没有直接受害者被拍摄。
3. **这些东西在西班牙是非法的吗？**
绝对是。西班牙法律将人工智能生成的儿童性虐待材料与涉及真实儿童的材料同等对待。持有、分发或创作都是严重犯罪。
4. **我在网上看到了可疑的人工智能图像。我该怎么办？**
不要分享。立即向你看到该图像的平台举报。你也可以通过国民警卫队网站或ANAR基金会儿童保护热线向西班牙当局匿名举报。
5. **如果没有真实儿童在制作图像时受到伤害，为什么它有害？**
它延续了对儿童的性化，可能被用来诱骗真实受害者，并助长危险的市场。它还对那些面孔被窃取并叠加的儿童造成深远的心理伤害。
**高级/实际问题**
6. **西班牙法律如何适应以应对这项新技术？**
西班牙正在实施欧盟的《数字服务法》，该法要求平台评估和减轻此类风险。同时，对拟议的欧盟《人工智能法案》以及要求科技公司检测和报告此类内容的规定也给予了大力支持。
7. **西班牙警方调查这些案件面临的最大挑战是什么？**
内容的数量、加密和暗网的使用，以及人工智能工具的快速发展。追踪数字足迹和国际合作是关键，且资源密集。
8. **社交媒体平台的人工智能工具能有效检测这种内容吗？**
这是一场军备竞赛。虽然平台使用人工智能来检测已知模式，但新的人工智能生成器不断创造出新的独特图像，以规避当前的过滤器。检测技术正在改进，但并非完美。
9. **西班牙关于客户端扫描的争论是什么？**
这是
