Google a retiré certains de ses résumés générés par IA sur la santé après qu'une enquête du Guardian ait révélé que des informations fausses et trompeuses mettaient les gens en danger.
L'entreprise décrit ses "Aperçus IA" – qui utilisent l'IA générative pour fournir des résumés rapides sur un sujet ou une question – comme "utiles" et "fiables". Cependant, certains de ces résumés, qui apparaissent en haut des résultats de recherche, ont fourni des informations sanitaires inexactes pouvant nuire aux utilisateurs.
Dans un cas qualifié d'"dangereux" et "alarmant" par des experts, Google a donné des informations incorrectes sur les principaux tests de la fonction hépatique. Cela pourrait amener des personnes atteintes d'une maladie hépatique grave à croire à tort qu'elles sont en bonne santé. En recherchant "what is the normal range for liver blood tests" (quelle est la fourchette normale pour les tests sanguins du foie), le Guardian a constaté que Google présentait une liste de chiffres avec peu de contexte et sans tenir compte de facteurs comme la nationalité, le sexe, l'origine ethnique ou l'âge.
Les experts ont averti que ce que l'Aperçu IA de Google étiquetait comme normal pouvait différer radicalement des normes médicales réelles. Cela pourrait amener des patients gravement malades à supposer que leurs résultats d'analyse étaient bons et à manquer des rendez-vous de suivi importants.
Suite à l'enquête, Google a supprimé les Aperçus IA pour les termes de recherche "what is the normal range for liver blood tests" et "what is the normal range for liver function tests" (quelle est la fourchette normale pour les tests de la fonction hépatique).
Un porte-parole de Google a déclaré : "Nous ne commentons pas les suppressions individuelles dans la Recherche. Dans les cas où les Aperçus IA manquent de contexte, nous travaillons à des améliorations générales, et nous prenons également des mesures conformément à nos politiques lorsque cela est approprié."
Vanessa Hebditch, directrice de la communication et des politiques au British Liver Trust, a salué cette suppression mais a exprimé une inquiétude persistante. "C'est une excellente nouvelle, et nous sommes heureux de voir la suppression des Aperçus IA de Google dans ces cas", a-t-elle déclaré. "Cependant, si la question est posée différemment, un Aperçu IA potentiellement trompeur peut toujours apparaître, et nous restons préoccupés par le fait que d'autres informations sanitaires produites par l'IA peuvent être inexactes et déroutantes."
Le Guardian a constaté que même de légères variations de la recherche originale – comme "lft reference range" ou "lft test reference range" (fourchette de référence pour les tests de la fonction hépatique) – déclenchaient toujours des Aperçus IA. Hebditch a déclaré que cela était inquiétant. "Un test de la fonction hépatique est un ensemble de différents tests sanguins. Comprendre les résultats implique bien plus que de comparer une série de chiffres", a-t-elle expliqué. "Les Aperçus IA présentent une liste en gras, ce qui facilite pour les lecteurs de manquer que ces chiffres pourraient même ne pas être pertinents pour leur test. Ils ne parviennent pas non plus à avertir qu'une personne peut avoir des résultats normaux même avec une maladie hépatique grave, nécessitant des soins supplémentaires. Cette fausse réassurance pourrait être très nocive."
Google, qui détient 91 % du marché mondial de la recherche, a déclaré qu'il examinait les nouveaux exemples fournis par le Guardian.
Hebditch a ajouté : "Notre plus grande inquiétude est que cela ne traite qu'un seul résultat de recherche, et Google peut simplement désactiver l'Aperçu IA pour cette requête, mais cela ne résout pas le problème plus large des Aperçus IA pour les informations sanitaires."
Sue Farrington, présidente du Patient Information Forum, a également salué la suppression mais partageait des préoccupations similaires. "C'est un bon résultat, mais ce n'est que la toute première étape pour maintenir la confiance dans les résultats de recherche de Google liés à la santé. Il y a encore trop d'exemples d'Aperçus IA de Google donnant aux gens des informations sanitaires inexactes."
Farrington a noté que des millions d'adultes dans le monde ont déjà du mal à accéder à des informations sanitaires fiables. "C'est pourquoi il est si important que Google oriente les gens vers des informations sanitaires solides et documentées." Les Aperçus IA continuent d'apparaître pour d'autres exemples initialement signalés par le Guardian à Google. Ceux-ci incluent des résumés sur le cancer et la santé mentale que les experts ont qualifiés de "complètement faux" et "vraiment dangereux".
Interrogé sur la raison pour laquelle ces Aperçus IA n'avaient pas été supprimés, Google a déclaré qu'ils renvoyaient à des sources bien connues et réputées et conseillaient aux utilisateurs quand il était important de demander l'avis d'un expert.
Un porte-parole a déclaré : "Notre équipe interne de cliniciens a examiné les exemples partagés avec nous et a constaté que dans de nombreux cas, l'information n'était pas inexacte et était étayée par des sites web de haute qualité."
Victor Tangermann, rédacteur en chef adjoint chez Futurism, a déclaré que l'enquête du Guardian montre que Google a encore du travail à faire "pour s'assurer que son outil d'IA ne diffuse pas de désinformation sanitaire dangereuse."
Google a déclaré que les Aperçus IA n'apparaissent que pour les requêtes où il a une grande confiance dans la qualité des réponses. L'entreprise a ajouté qu'elle mesure et examine constamment la qualité de ses résumés dans de nombreuses catégories d'informations.
Dans un article pour Search Engine Journal, le rédacteur principal Matt Southern a noté : "Les Aperçus IA apparaissent au-dessus des résultats de recherche classés. Lorsque le sujet est la santé, les erreurs ont plus de poids."
Foire Aux Questions
Bien sûr. Voici une liste de FAQ concernant le retrait par Google des résumés de recherche générés par l'IA qui ont été signalés comme dangereux.
Questions de niveau débutant
1. Que s'est-il passé avec les résumés de recherche IA de Google ?
Google a récemment supprimé certaines des réponses générées par l'IA dans ses résultats de recherche après que des utilisateurs ont partagé des exemples où les conseils étaient erronés et potentiellement nocifs, en particulier pour les questions liées à la santé.
2. Qu'est-ce qu'un Aperçu IA dans la Recherche Google ?
C'est une nouvelle fonctionnalité où Google utilise son IA Gemini pour générer une réponse-résumé concise en haut des résultats de recherche, en extrayant des informations de sites web afin que vous n'ayez pas à cliquer sur plusieurs liens.
3. Quel type de réponses dangereuses ont été données ?
Parmi les exemples largement partagés, l'IA suggérait aux utilisateurs d'ajouter de la colle à la sauce pizza pour la rendre plus collante ou que manger des pierres était bénéfique. Pour la santé, elle donnait des conseils incorrects comme le nombre de pierres à manger par jour, ce qui est évidemment dangereux.
4. Pourquoi l'IA a-t-elle donné des réponses aussi étranges ?
Les modèles d'IA peuvent parfois interpréter à tort un contenu web de faible qualité, satirique ou humoristique comme une information factuelle. Ils n'ont pas de compréhension du monde réel ni de bon sens pour savoir que le conseil est dangereux.
5. Google a-t-il résolu le problème ?
Google a supprimé les Aperçus IA spécifiquement incorrects qui ont été signalés et déclare apporter des améliorations techniques pour prévenir ce genre d'erreurs. Cependant, le défi fondamental des hallucinations de l'IA est un problème persistant.
Questions avancées / pratiques
6. Qu'est-ce que cela signifie pour l'avenir de l'IA dans la recherche ?
Cela met en lumière un obstacle majeur pour la recherche alimentée par l'IA : équilibrer rapidité et commodité avec exactitude et sécurité. Cet incident ralentira probablement le déploiement complet et imposera plus de supervision humaine, des garde-fous plus stricts et une meilleure vérification des sources.
7. Comment puis-je savoir si un Aperçu IA est fiable ?
Vérifiez les sources : Cliquez sur la petite flèche à côté du résumé pour voir de quels sites web les informations sont extraites. Sont-ils réputés ?
Utilisez le bon sens : Si une réponse semble étrange, choquante ou trop simpliste pour un sujet complexe, elle l'est probablement.
Ne vous arrêtez pas au résumé : Consultez toujours les sources liées ou faites des recherches supplémentaires, surtout pour les informations concernant la santé, les finances ou le droit.
8. Puis-je désactiver les Aperçus IA dans mes résultats de recherche ?
Actuellement, il n'existe pas d'interrupteur universel pour les activer/désactiver.
