La Comisión Europea ha abierto una investigación sobre la plataforma X de Elon Musk por la creación de imágenes sexualmente explícitas y la posible difusión de material de abuso sexual infantil por parte de su chatbot de IA, Grok.
La investigación formal, iniciada el lunes, también amplía una investigación existente sobre los sistemas de recomendación de X: algoritmos que sugieren nuevo contenido a los usuarios.
Grok ha causado indignación internacional al permitir a los usuarios desnudar digitalmente imágenes de mujeres y niños y colocarlos en poses sugerentes. Según investigadores del Centro para Contrarrestar el Odio Digital, Grok generó aproximadamente 3 millones de imágenes sexualizadas en menos de dos semanas, incluidas 23.000 que parecían representar a niños.
La Comisión declaró que la investigación "evaluará si la empresa evaluó y mitigó adecuadamente los riesgos" derivados de las funciones de Grok en la UE. Esto incluye riesgos relacionados con compartir contenido ilegal, como imágenes explícitas manipuladas y material que pueda constituir abuso sexual infantil.
La investigación se lleva a cabo bajo la Ley de Servicios Digitales (DSA) de la UE, una ley relativamente nueva diseñada para proteger a los usuarios de internet de diversos daños en línea.
Un funcionario de la Comisión dijo a periodistas que las medidas implementadas por X para abordar el problema no han sido convincentes. Inicialmente, tras la protesta por las imágenes manipuladas, X limitó el acceso a Grok a suscriptores de pago. Sin embargo, tras la presión de los reguladores europeos, la empresa cambió su enfoque. A principios de este mes, X anunció que había introducido medidas para evitar que Grok editara imágenes de personas reales con ropa reveladora.
Un funcionario de la Comisión señaló que estos pasos no abordan preocupaciones más amplias sobre Grok. La investigación examina riesgos sistémicos relacionados con la generación de contenido ilegal, incluido material que representa violencia contra mujeres y abuso sexual infantil. El funcionario declaró que X carece de "medidas de mitigación efectivas... para reducir el riesgo en su plataforma".
Al anunciar la investigación, Henna Virkkunen, principal funcionaria de la Comisión en soberanía tecnológica, seguridad y democracia, dijo: "Los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación. Con esta investigación, determinaremos si X ha cumplido sus obligaciones legales bajo la DSA, o si trató los derechos de los ciudadanos europeos—incluidos los de mujeres y niños—como daños colaterales de su servicio".
Además de la investigación sobre imágenes explícitas, la Comisión está ampliando una investigación iniciada en diciembre de 2023 sobre los sistemas de recomendación de X. Esto sigue al anuncio de la empresa de que planea adoptar un modelo basado en Grok para filtrar información y contenido para los usuarios.
Este movimiento se produce después de que el regulador de medios del Reino Unido, Ofcom, anunciara su propia investigación a principios de este mes sobre contenido "vil" e ilegal en X.
La Comisión ha enfrentado críticas generalizadas por ser demasiado lenta en la aplicación de la DSA, particularmente en relación con X.
"La investigación llega demasiado tarde, pero aún puede enviar una señal clara de que las plataformas tienen que cumplir la ley europea", dijo la eurodiputada verde alemana Alexandra Geese. "Este caso es claro. El daño a millones de mujeres y muchos niños es irreparable. Esperamos que la Comisión utilice este aprendizaje para actuar más rápido en el futuro".
Funcionarios de la UE han rechazado tales críticas, señalando 15 investigaciones en curso bajo la DSA, que ha sido aplicable a empresas desde febrero de 2024.
Regina Doherty, vicepresidenta irlandesa de centro-derecha del Parlamento Europeo, acogió con satisfacción la investigación formal. "Cuando surgen informes creíbles de que los sistemas de IA se utilizan de manera que dañan a mujeres y niños, es esencial que la ley de la UE sea examinada y aplicada sin demora", dijo Doherty.
En respuesta a la investigación, X proporcionó un enlace a una declaración publicada el 14 de enero: "Seguimos comprometidos a hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero para cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado". El mes pasado, la comisión multó a X con 120 millones de euros por violar la ley de la UE. La plataforma fue acusada de engañar a los usuarios, bloquear a investigadores independientes y evitar la rendición de cuentas.
El regulador de la UE declaró que X había asignado "tildes azules engañosas" a cuentas no verificadas, lo que podría dejar a los usuarios vulnerables a estafas y fraudes. Además, X incumplió las normas de transparencia de la UE sobre publicidad al impedir que investigadores examinaran anuncios falsos y campañas de amenazas coordinadas.
En respuesta al anuncio de la multa por parte de la comisión, Musk respondió "bullshit" y luego pidió que se disolviera la UE.
A X se le han dado tres meses para pagar la multa. Un funcionario de la UE expresó confianza en que la multa será pagada.
Preguntas Frecuentes
Preguntas frecuentes sobre la investigación de la UE a X por imágenes explícitas generadas por IA de Grok
Preguntas de nivel básico
1 ¿De qué trata esta investigación?
La Unión Europea está investigando a X por preocupaciones de que su chatbot de IA Grok pueda haber sido utilizado para generar y difundir imágenes deepfake sexualmente explícitas.
2 ¿Qué es Grok?
Grok es un chatbot de inteligencia artificial desarrollado por xAI, una empresa afiliada a Elon Musk, propietario de X/Twitter. Está diseñado para responder preguntas y generar texto.
3 ¿Por qué la UE investiga a X por esto?
La UE tiene una nueva ley llamada Ley de Servicios Digitales (DSA). Esta ley requiere que las plataformas en línea muy grandes, como X, evalúen y mitiguen proactivamente los riesgos en sus servicios, incluidos los riesgos relacionados con la difusión de contenido ilegal y los efectos negativos de la IA.
4 ¿Qué son los deepfakes o imágenes explícitas generadas por IA?
Son fotos o videos falsos pero altamente realistas creados usando inteligencia artificial. En este contexto, se refiere a imágenes pornográficas que representan falsamente a una persona real sin su consentimiento.
5 ¿Esto es ilegal?
En la UE, la pornografía deepfake no consensuada se considera una violación grave de los derechos fundamentales y la dignidad de una persona. La DSA obliga a las plataformas a tener sistemas para prevenir la difusión de dicho contenido ilegal.
6 ¿Qué podría pasarle a X como resultado?
Si la UE encuentra que X viola la DSA, la empresa podría enfrentar una multa de hasta el 6% de sus ingresos anuales globales. En casos extremos, la UE incluso podría suspender el servicio de X en Europa.
Preguntas prácticas avanzadas
7 ¿Qué parte específica de la DSA está violando potencialmente X?
La investigación se centra en el cumplimiento por parte de X de las obligaciones de la DSA en cuanto a evaluación y mitigación de riesgos. La UE sospecha que X puede no haber hecho lo suficiente para identificar y reducir los riesgos vinculados a la IA generativa como Grok, particularmente en lo concerniente a la difusión de contenido ilegal y la manipulación del discurso cívico.
8 ¿En qué se diferencia esto de la moderación regular de contenido explícito?
Esto se trata específicamente de contenido generado por IA, que puede crearse a gran escala y es más difícil de detectar que los medios subidos estándar. La investigación cuestiona si las políticas de moderación de contenido y las salvaguardas tecnológicas de X son adecuadas para esta nueva y rápidamente evolutiva amenaza.
9 ¿Significa esto que Grok en sí está diseñado para crear este contenido?
No necesariamente. La investigación es
