Google ha eliminado algunos de sus resúmenes de salud generados por inteligencia artificial después de que una investigación de The Guardian descubriera que información falsa y engañosa estaba poniendo a las personas en riesgo.
La empresa describe sus "Vistas generales de IA"—que utilizan IA generativa para proporcionar resúmenes rápidos sobre un tema o pregunta—como "útiles" y "confiables". Sin embargo, algunos de estos resúmenes, que aparecen en la parte superior de los resultados de búsqueda, han proporcionado información de salud inexacta que podría dañar a los usuarios.
En un caso que los expertos calificaron de "peligroso" y "alarmante", Google proporcionó información incorrecta sobre pruebas clave de función hepática. Esto podría llevar a personas con enfermedad hepática grave a creer erróneamente que están sanas. Al buscar "cuál es el rango normal para los análisis de sangre del hígado", The Guardian descubrió que Google presentaba una lista de números con poco contexto y sin considerar factores como nacionalidad, sexo, etnia o edad.
Los expertos advirtieron que lo que la Vista general de IA de Google etiquetó como normal podría diferir drásticamente de los estándares médicos reales. Esto podría hacer que pacientes gravemente enfermos asuman que sus resultados de pruebas estaban bien y omitan importantes citas de seguimiento.
Tras la investigación, Google eliminó las Vistas generales de IA para los términos de búsqueda "cuál es el rango normal para los análisis de sangre del hígado" y "cuál es el rango normal para las pruebas de función hepática".
Un portavoz de Google dijo: "No comentamos sobre eliminaciones individuales dentro de la Búsqueda. En los casos en que las Vistas generales de IA carecen de contexto, trabajamos para realizar mejoras generales, y también tomamos medidas bajo nuestras políticas cuando es apropiado".
Vanessa Hebditch, directora de comunicaciones y políticas de British Liver Trust, acogió con satisfacción la eliminación pero expresó preocupación continua. "Esta es una excelente noticia, y nos complace ver la eliminación de las Vistas generales de IA de Google en estos casos", dijo. "Sin embargo, si la pregunta se formula de manera diferente, aún puede aparecer una Vista general de IA potencialmente engañosa, y seguimos preocupados de que otra información de salud producida por IA pueda ser inexacta y confusa".
The Guardian descubrió que incluso ligeras variaciones de la búsqueda original—como "rango de referencia de pruebas de función hepática" o "rango de referencia para prueba de función hepática"—aún activaban Vistas generales de IA. Hebditch dijo que esto era preocupante. "Una prueba de función hepática es un conjunto de diferentes análisis de sangre. Comprender los resultados implica mucho más que comparar un conjunto de números", explicó. "Las Vistas generales de IA presentan una lista en negrita, lo que facilita que los lectores pasen por alto que estos números podrían ni siquiera ser relevantes para su prueba. Tampoco advierten que alguien puede tener resultados normales incluso con una enfermedad hepática grave, requiriendo más atención. Esta falsa tranquilidad podría ser muy perjudicial".
Google, que posee una participación del 91% en el mercado global de búsqueda, dijo que está revisando los nuevos ejemplos proporcionados por The Guardian.
Hebditch añadió: "Nuestra mayor preocupación es que esto aborda un solo resultado de búsqueda, y Google simplemente puede desactivar la Vista general de IA para esa consulta, pero no aborda el problema más amplio de las Vistas generales de IA para información de salud".
Sue Farrington, presidenta del Patient Information Forum, también acogió con satisfacción la eliminación pero compartió preocupaciones similares. "Este es un buen resultado, pero es solo el primer paso para mantener la confianza en los resultados de búsqueda de Google relacionados con la salud. Todavía hay demasiados ejemplos de Vistas generales de IA de Google que brindan a las personas información de salud inexacta".
Farrington señaló que millones de adultos en todo el mundo ya tienen dificultades para acceder a información de salud confiable. "Por eso es tan importante que Google dirija a las personas a información de salud sólida e investigada".
Las Vistas generales de IA continúan apareciendo para otros ejemplos originalmente destacados por The Guardian a Google. Estos incluyen resúmenes sobre cáncer y salud mental que los expertos han calificado como "completamente erróneos" y "realmente peligrosos".
Cuando se le preguntó por qué estas Vistas generales de IA no habían sido eliminadas, Google declaró que enlazan a fuentes conocidas y reputadas y aconsejan a los usuarios cuándo es importante buscar asesoramiento experto.
Un portavoz dijo: "Nuestro equipo interno de clínicos revisó los ejemplos compartidos con nosotros y encontró que, en muchos casos, la información no era inexacta y estaba respaldada por sitios web de alta calidad".
Victor Tangermann, editor senior de Futurism, dijo que la investigación de The Guardian muestra que Google aún tiene trabajo por hacer "para asegurar que su herramienta de IA no esté dispensando información de salud peligrosa y errónea".
Google declaró que las Vistas generales de IA solo aparecen para consultas en las que tiene alta confianza en la calidad de las respuestas. La empresa añadió que constantemente mide y revisa la calidad de sus resúmenes en muchas categorías de información.
En un artículo para Search Engine Journal, el escritor senior Matt Southern señaló: "Las Vistas generales de IA aparecen por encima de los resultados de búsqueda clasificados. Cuando el tema es salud, los errores tienen más peso".
Preguntas Frecuentes
Por supuesto. Aquí hay una lista de preguntas frecuentes sobre la eliminación por parte de Google de los resúmenes de búsqueda generados por IA que fueron señalados como peligrosos.
Preguntas de Nivel Básico
1. ¿Qué pasó con los resúmenes de búsqueda de IA de Google?
Google eliminó recientemente algunas de las respuestas generadas por IA en sus resultados de búsqueda después de que usuarios compartieran ejemplos donde el consejo era incorrecto y potencialmente dañino, especialmente para preguntas relacionadas con la salud.
2. ¿Qué es una Vista general de IA en la Búsqueda de Google?
Es una nueva función donde Google usa su IA Gemini para generar una respuesta de resumen concisa en la parte superior de los resultados de búsqueda, extrayendo información de sitios web para que no tengas que hacer clic en múltiples enlaces.
3. ¿Qué tipo de respuestas peligrosas se dieron?
Algunos ejemplos ampliamente compartidos incluyeron a la IA sugiriendo que los usuarios agreguen pegamento a la salsa de pizza para que sea más pegajosa o que comer rocas es beneficioso. Para la salud, dio consejos incorrectos como cuántas rocas comer al día, lo cual es obviamente inseguro.
4. ¿Por qué la IA dio respuestas tan extrañas?
Los modelos de IA a veces pueden malinterpretar contenido de baja calidad, satírico o de broma de la web como información fáctica. No tienen comprensión del mundo real ni sentido común para saber que el consejo es peligroso.
5. ¿Ha solucionado Google el problema?
Google ha eliminado las Vistas generales de IA específicas incorrectas que fueron reportadas y dice que está haciendo mejoras técnicas para prevenir este tipo de errores. Sin embargo, el desafío central de la alucinación de la IA es un problema continuo.
Preguntas Avanzadas y Prácticas
6. ¿Qué significa esto para el futuro de la IA en la búsqueda?
Destaca un obstáculo importante para la búsqueda impulsada por IA: equilibrar velocidad y conveniencia con precisión y seguridad. Este incidente probablemente ralentizará el lanzamiento completo y forzará más supervisión humana, salvaguardas más estrictas y una mejor verificación de fuentes.
7. ¿Cómo puedo saber si una Vista general de IA es confiable?
* Verifica las fuentes: Haz clic en la pequeña flecha junto al resumen para ver de qué sitios web extrajo información. ¿Son reputados?
* Usa el sentido común: Si una respuesta parece extraña, impactante o demasiado simple para un tema complejo, probablemente lo sea.
* No te quedes solo con el resumen: Siempre consulta las fuentes enlazadas o investiga más, especialmente para información de salud, financiera o legal.
8. ¿Puedo desactivar las Vistas generales de IA en mis resultados de búsqueda?
Actualmente, no hay un interruptor universal de encendido/apagado.
