El gobierno español pedirá a los fiscales que investiguen a las empresas de redes sociales X, Meta y TikTok para determinar si han cometido delitos al permitir supuestamente que su IA genere y difunda material de abuso sexual infantil.
El presidente del gobierno, Pedro Sánchez, afirmó que la decisión busca proteger "la salud mental, la dignidad y los derechos de nuestros hijos e hijas" y acabar con la "impunidad" de las grandes plataformas de redes sociales.
La acción se basa en un informe de expertos que analiza la posible responsabilidad penal por prácticas como la creación y difusión de contenido sexual y abuso sexual infantil mediante deepfakes o imágenes manipuladas, lo cual viola la dignidad de las víctimas. El informe advirtió que las empresas de redes sociales podrían estar involucradas al permitir la rápida, amplia y opaca difusión de dicho material, dificultando su detección y facilitando redes que lo producen, comparten y lucran con él.
El Consejo de Ministros aprobó la medida el martes mientras el gobierno prepara iniciativas que incluyen la prohibición de redes sociales para menores de 16 años y legislación para responsabilizar a las empresas tecnológicas por contenidos nocivos. Esto se produce tras la investigación iniciada hace menos de un mes por la Comisión Europea contra X por imágenes sexualmente explícitas y posible material de abuso sexual infantil generado por su chatbot de IA, Grok.
El martes, la Comisión de Protección de Datos de Irlanda anunció una investigación "a gran escala" centrada en la funcionalidad de IA generativa de Grok. El comisionado adjunto Graham Doyle declaró que examinan si los usuarios podían incitar a Grok a generar imágenes sexualizadas de personas reales, incluidos niños, y si X cumplió con las obligaciones del RGPD respecto a los datos personales de ciudadanos de la UE/EEE.
La portavoz del gobierno español, Elma Saiz, afirmó que Madrid no permitirá que la violencia sexual digital contra menores sea "amplificada o protegida" por algoritmos, enfatizando la seguridad, privacidad y libertad de los niños. El Consejo de Ministros solicitará formalmente al fiscal general que investigue y, en su caso, procese a las empresas infractoras.
Meta declaró que no podía comentar sobre la investigación propuesta sin información detallada, pero subrayó su firme postura contra la explotación sexual infantil y las imágenes íntimas no consensuadas, ya sean reales o generadas por IA, y su política de eliminar dicho contenido. También se ha contactado a X y TikTok para obtener declaraciones.
Los esfuerzos de Sánchez por responsabilizar a las empresas de redes sociales y proteger a los niños de lo que llama el "lejano oeste digital" han generado fuertes reacciones de algunos propietarios de grandes tecnológicas. A principios de mes, argumentó que se necesita acción urgente porque las redes sociales se han convertido en un "Estado fallido donde se ignoran las leyes y se toleran los delitos".
También criticó a Elon Musk por usar X para "amplificar la desinformación" sobre la decisión del gobierno de regularizar a 500.000 trabajadores indocumentados y solicitantes de asilo, señalando que el propio Musk es inmigrante. Musk respondió calificando a Sánchez de "tirano y traidor al pueblo de España" y un "verdadero totalitario fascista".
Los planes del gobierno español también recibieron críticas del empresario tecnológico ruso y cofundador de Telegram, Pavel Durov. En un mensaje masivo enviado a todos los usuarios de Telegram en España, acusó al gobierno de Sánchez de "impulsar nuevas regulaciones peligrosas que amenazan sus libertades en internet", advirtiendo que las medidas podrían convertir a España "en un Estado de vigilancia bajo el pretexto de la 'protección'".
Fuentes del gobierno español respondieron afirmando que el mensaje sin precedentes de Durov a millones de usuarios buscaba socavar la confianza en las instituciones y subrayó la necesidad de regular redes sociales y aplicaciones de mensajería. "Los españoles no pueden vivir en un mundo donde oligarcas tecnológicos extranjeros puedan inundar nuestros teléfonos con propaganda a voluntad, simplemente porque el gobierno ha anunciado medidas para proteger a los menores y hacer cumplir la ley", declararon.
La creciente preocupación por los efectos nocivos de las redes sociales ha llevado a varios gobiernos, incluidos los de España, Reino Unido, Grecia y Francia, a adoptar o considerar legislaciones más estrictas. En diciembre, Australia se convirtió en el primer país en prohibir estas plataformas a menores de 16 años.
Preguntas Frecuentes
Por supuesto. Aquí tienes una lista de preguntas frecuentes sobre el enfoque de España ante el contenido de abuso infantil generado por IA, formuladas para el debate en redes sociales.
Preguntas de Nivel Básico
1. ¿Qué es exactamente el contenido de abuso infantil generado por IA?
Son imágenes o videos realistas de abuso sexual infantil creados completamente por inteligencia artificial, sin involucrar a niños reales en su producción. Sin embargo, sigue siendo ilegal y dañino.
2. ¿Es esto realmente un problema en España?
Sí. Las autoridades españolas, como la Guardia Civil, lo han identificado como una amenaza creciente y grave, ya que alimenta la demanda y normaliza el abuso, incluso si no hay una víctima directa fotografiada.
3. ¿Es esto ilegal en España?
Absolutamente. La ley española trata el material de abuso sexual infantil generado por IA de la misma manera que el material que involucra a niños reales. La posesión, distribución o creación es un delito grave.
4. Vi una imagen de IA sospechosa en línea. ¿Qué debo hacer?
No la compartas. Repórtala inmediatamente a la plataforma donde la viste. También puedes denunciarla anónimamente a las autoridades españolas a través del sitio web de la Guardia Civil o la línea directa de la Fundación ANAR para la protección infantil.
5. ¿Por qué es dañino si ningún niño real resulta herido al crear la imagen?
Perpetúa la sexualización de los niños, puede usarse para captar víctimas reales y alimenta un mercado peligroso. También causa un daño psicológico profundo a los niños cuyos rostros son robados y superpuestos.
Preguntas Avanzadas / Prácticas
6. ¿Cómo se está adaptando la ley española para abordar esta nueva tecnología?
España está implementando la Ley de Servicios Digitales de la UE, que obliga a las plataformas a evaluar y mitigar riesgos como este. También hay un fuerte apoyo a la propuesta de Ley de IA de la UE y regulaciones que exigirían a las empresas tecnológicas detectar y reportar dicho contenido.
7. ¿Cuáles son los mayores desafíos para la policía española al investigar estos casos?
El volumen de contenido, el uso de cifrado y la dark web, y la velocidad a la que evolucionan las herramientas de IA. Rastrear huellas digitales y la colaboración internacional son clave, y requieren muchos recursos.
8. ¿Pueden las herramientas de IA de las plataformas de redes sociales detectar este contenido de manera efectiva?
Es una carrera armamentística. Mientras las plataformas usan IA para detectar patrones conocidos, los nuevos generadores de IA crean constantemente imágenes nuevas y únicas que evaden los filtros actuales. La detección está mejorando, pero no es perfecta.
9. ¿Cuál es el debate sobre el escaneo del lado del cliente en España?
Este es
