La Comisi贸n Europea ha abierto una investigaci贸n sobre la plataforma X de Elon Musk por la creaci贸n de im谩genes sexualmente expl铆citas y la posible difusi贸n de material de abuso sexual infantil por parte de su chatbot de IA, Grok.
La investigaci贸n formal, iniciada el lunes, tambi茅n ampl铆a una investigaci贸n existente sobre los sistemas de recomendaci贸n de X: algoritmos que sugieren nuevo contenido a los usuarios.
Grok ha causado indignaci贸n internacional al permitir a los usuarios desnudar digitalmente im谩genes de mujeres y ni帽os y colocarlos en poses sugerentes. Seg煤n investigadores del Centro para Contrarrestar el Odio Digital, Grok gener贸 aproximadamente 3 millones de im谩genes sexualizadas en menos de dos semanas, incluidas 23.000 que parec铆an representar a ni帽os.
La Comisi贸n declar贸 que la investigaci贸n "evaluar谩 si la empresa evalu贸 y mitig贸 adecuadamente los riesgos" derivados de las funciones de Grok en la UE. Esto incluye riesgos relacionados con compartir contenido ilegal, como im谩genes expl铆citas manipuladas y material que pueda constituir abuso sexual infantil.
La investigaci贸n se lleva a cabo bajo la Ley de Servicios Digitales (DSA) de la UE, una ley relativamente nueva dise帽ada para proteger a los usuarios de internet de diversos da帽os en l铆nea.
Un funcionario de la Comisi贸n dijo a periodistas que las medidas implementadas por X para abordar el problema no han sido convincentes. Inicialmente, tras la protesta por las im谩genes manipuladas, X limit贸 el acceso a Grok a suscriptores de pago. Sin embargo, tras la presi贸n de los reguladores europeos, la empresa cambi贸 su enfoque. A principios de este mes, X anunci贸 que hab铆a introducido medidas para evitar que Grok editara im谩genes de personas reales con ropa reveladora.
Un funcionario de la Comisi贸n se帽al贸 que estos pasos no abordan preocupaciones m谩s amplias sobre Grok. La investigaci贸n examina riesgos sist茅micos relacionados con la generaci贸n de contenido ilegal, incluido material que representa violencia contra mujeres y abuso sexual infantil. El funcionario declar贸 que X carece de "medidas de mitigaci贸n efectivas... para reducir el riesgo en su plataforma".
Al anunciar la investigaci贸n, Henna Virkkunen, principal funcionaria de la Comisi贸n en soberan铆a tecnol贸gica, seguridad y democracia, dijo: "Los deepfakes sexuales no consensuados de mujeres y ni帽os son una forma violenta e inaceptable de degradaci贸n. Con esta investigaci贸n, determinaremos si X ha cumplido sus obligaciones legales bajo la DSA, o si trat贸 los derechos de los ciudadanos europeos鈥攊ncluidos los de mujeres y ni帽os鈥攃omo da帽os colaterales de su servicio".
Adem谩s de la investigaci贸n sobre im谩genes expl铆citas, la Comisi贸n est谩 ampliando una investigaci贸n iniciada en diciembre de 2023 sobre los sistemas de recomendaci贸n de X. Esto sigue al anuncio de la empresa de que planea adoptar un modelo basado en Grok para filtrar informaci贸n y contenido para los usuarios.
Este movimiento se produce despu茅s de que el regulador de medios del Reino Unido, Ofcom, anunciara su propia investigaci贸n a principios de este mes sobre contenido "vil" e ilegal en X.
La Comisi贸n ha enfrentado cr铆ticas generalizadas por ser demasiado lenta en la aplicaci贸n de la DSA, particularmente en relaci贸n con X.
"La investigaci贸n llega demasiado tarde, pero a煤n puede enviar una se帽al clara de que las plataformas tienen que cumplir la ley europea", dijo la eurodiputada verde alemana Alexandra Geese. "Este caso es claro. El da帽o a millones de mujeres y muchos ni帽os es irreparable. Esperamos que la Comisi贸n utilice este aprendizaje para actuar m谩s r谩pido en el futuro".
Funcionarios de la UE han rechazado tales cr铆ticas, se帽alando 15 investigaciones en curso bajo la DSA, que ha sido aplicable a empresas desde febrero de 2024.
Regina Doherty, vicepresidenta irlandesa de centro-derecha del Parlamento Europeo, acogi贸 con satisfacci贸n la investigaci贸n formal. "Cuando surgen informes cre铆bles de que los sistemas de IA se utilizan de manera que da帽an a mujeres y ni帽os, es esencial que la ley de la UE sea examinada y aplicada sin demora", dijo Doherty.
En respuesta a la investigaci贸n, X proporcion贸 un enlace a una declaraci贸n publicada el 14 de enero: "Seguimos comprometidos a hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero para cualquier forma de explotaci贸n sexual infantil, desnudez no consensuada y contenido sexual no deseado". El mes pasado, la comisi贸n mult贸 a X con 120 millones de euros por violar la ley de la UE. La plataforma fue acusada de enga帽ar a los usuarios, bloquear a investigadores independientes y evitar la rendici贸n de cuentas.
El regulador de la UE declar贸 que X hab铆a asignado "tildes azules enga帽osas" a cuentas no verificadas, lo que podr铆a dejar a los usuarios vulnerables a estafas y fraudes. Adem谩s, X incumpli贸 las normas de transparencia de la UE sobre publicidad al impedir que investigadores examinaran anuncios falsos y campa帽as de amenazas coordinadas.
En respuesta al anuncio de la multa por parte de la comisi贸n, Musk respondi贸 "bullshit" y luego pidi贸 que se disolviera la UE.
A X se le han dado tres meses para pagar la multa. Un funcionario de la UE expres贸 confianza en que la multa ser谩 pagada.
Preguntas Frecuentes
Preguntas frecuentes sobre la investigaci贸n de la UE a X por im谩genes expl铆citas generadas por IA de Grok
Preguntas de nivel b谩sico
1 驴De qu茅 trata esta investigaci贸n?
La Uni贸n Europea est谩 investigando a X por preocupaciones de que su chatbot de IA Grok pueda haber sido utilizado para generar y difundir im谩genes deepfake sexualmente expl铆citas.
2 驴Qu茅 es Grok?
Grok es un chatbot de inteligencia artificial desarrollado por xAI, una empresa afiliada a Elon Musk, propietario de X/Twitter. Est谩 dise帽ado para responder preguntas y generar texto.
3 驴Por qu茅 la UE investiga a X por esto?
La UE tiene una nueva ley llamada Ley de Servicios Digitales (DSA). Esta ley requiere que las plataformas en l铆nea muy grandes, como X, eval煤en y mitiguen proactivamente los riesgos en sus servicios, incluidos los riesgos relacionados con la difusi贸n de contenido ilegal y los efectos negativos de la IA.
4 驴Qu茅 son los deepfakes o im谩genes expl铆citas generadas por IA?
Son fotos o videos falsos pero altamente realistas creados usando inteligencia artificial. En este contexto, se refiere a im谩genes pornogr谩ficas que representan falsamente a una persona real sin su consentimiento.
5 驴Esto es ilegal?
En la UE, la pornograf铆a deepfake no consensuada se considera una violaci贸n grave de los derechos fundamentales y la dignidad de una persona. La DSA obliga a las plataformas a tener sistemas para prevenir la difusi贸n de dicho contenido ilegal.
6 驴Qu茅 podr铆a pasarle a X como resultado?
Si la UE encuentra que X viola la DSA, la empresa podr铆a enfrentar una multa de hasta el 6% de sus ingresos anuales globales. En casos extremos, la UE incluso podr铆a suspender el servicio de X en Europa.
Preguntas pr谩cticas avanzadas
7 驴Qu茅 parte espec铆fica de la DSA est谩 violando potencialmente X?
La investigaci贸n se centra en el cumplimiento por parte de X de las obligaciones de la DSA en cuanto a evaluaci贸n y mitigaci贸n de riesgos. La UE sospecha que X puede no haber hecho lo suficiente para identificar y reducir los riesgos vinculados a la IA generativa como Grok, particularmente en lo concerniente a la difusi贸n de contenido ilegal y la manipulaci贸n del discurso c铆vico.
8 驴En qu茅 se diferencia esto de la moderaci贸n regular de contenido expl铆cito?
Esto se trata espec铆ficamente de contenido generado por IA, que puede crearse a gran escala y es m谩s dif铆cil de detectar que los medios subidos est谩ndar. La investigaci贸n cuestiona si las pol铆ticas de moderaci贸n de contenido y las salvaguardas tecnol贸gicas de X son adecuadas para esta nueva y r谩pidamente evolutiva amenaza.
9 驴Significa esto que Grok en s铆 est谩 dise帽ado para crear este contenido?
No necesariamente. La investigaci贸n es
