Google har fjernet nogle af sine AI-genererede sundhedsoversigter efter en Guardian-undersøgelse viste, at falsk og vildledende information satte folk i fare.
Virksomheden beskriver sine AI Overviews – som bruger generativ AI til at give hurtige oversigter over et emne eller et spørgsmål – som "hjælpsomme" og "pålidelige." Men nogle af disse oversigter, der vises øverst i søgeresultaterne, har givet unøjagtig sundhedsinformation, der kunne skade brugerne.
I et tilfælde, som eksperter kaldte "farligt" og "alarmende," gav Google forkert information om nøgleprøver for leverfunktion. Dette kunne få personer med alvorlig leversygdom til fejlagtigt at tro, at de er sunde. Da Guardian søgte på "hvad er det normale område for leverblodprøver," fandt de, at Google præsenterede en liste over tal med lidt kontekst og uden hensyntagen til faktorer som nationalitet, køn, etnicitet eller alder.
Eksperter advarede om, at det, som Googles AI Overview betegnede som normalt, kunne afvige drastisk fra faktiske medicinske standarder. Dette kunne få alvorligt syge patienter til at antage, at deres prøveresultater var fine og springe vigtige opfølgende aftaler over.
Efter undersøgelsen fjernede Google AI Overviews for søgeudtrykkene "hvad er det normale område for leverblodprøver" og "hvad er det normale område for leverfunktionsprøver."
En talsmand for Google sagde: "Vi kommenterer ikke på individuelle fjernelser i Søg. I tilfælde hvor AI Overviews mangler noget kontekst, arbejder vi på at foretage brede forbedringer, og vi handler også i henhold til vores politikker, hvor det er passende."
Vanessa Hebditch, direktør for kommunikation og politik hos British Liver Trust, tog imod fjernelsen med velvilje, men udtrykte fortsat bekymring. "Dette er fremragende nyheder, og vi er glade for at se fjernelsen af Google AI Overviews i disse tilfælde," sagde hun. "Men hvis spørgsmålet stilles på en anden måde, kan en potentielt vildledende AI Overview stadig vises, og vi er fortsat bekymrede for, at anden AI-produceret sundhedsinformation kan være unøjagtig og forvirrende."
Guardian fandt, at selv små variationer af den oprindelige søgning – såsom "lft referenceområde" eller "lft test referenceområde" – stadig udløste AI Overviews. Hebditch sagde, at dette var bekymrende. "En leverfunktionsprøve er en samling af forskellige blodprøver. At forstå resultaterne involverer meget mere end at sammenligne et sæt tal," forklarede hun. "AI Overviews præsenterer en liste i fed skrift, hvilket gør det let for læserne at overse, at disse tal måske slet ikke er relevante for deres prøve. De advarer heller ikke om, at nogen kan have normale resultater selv med alvorlig leversygdom, hvilket kræver yderligere pleje. Denne falske forsikring kunne være meget skadelig."
Google, som har en 91% andel af det globale søgemarked, sagde, at de gennemgår de nye eksempler, som Guardian har fremskaffet.
Hebditch tilføjede: "Vores større bekymring er, at dette adresserer et enkelt søgeresultat, og Google kan simpelthen slå AI Overview fra for den forespørgsel, men det tackler ikke det større problem med AI Overviews for sundhedsinformation."
Sue Farrington, formand for Patient Information Forum, tog også imod fjernelsen med velvilje, men delte lignende bekymringer. "Dette er et godt resultat, men det er kun det allerførste skridt i at opretholde tilliden til Googles sundhedsrelaterede søgeresultater. Der er stadig for mange eksempler på, at Google AI Overviews giver folk unøjagtig sundhedsinformation."
Farrington bemærkede, at millioner af voksne verden over allerede kæmper for at få adgang til pålidelig sundhedsinformation. "Derfor er det så vigtigt, at Google dirigerer folk til robust, forskningsbaseret sundhedsinformation." AI Overviews fortsætter med at vises for andre eksempler, som Guardian oprindeligt fremhævede over for Google. Disse inkluderer oversigter om kræft og mental sundhed, som eksperter har kaldt "helt forkerte" og "virkelig farlige."
Da de blev spurgt om, hvorfor disse AI Overviews ikke var blevet fjernet, oplyste Google, at de linker til velkendte og velrenommerede kilder og råder brugerne til at søge ekspertvejledning, når det er vigtigt.
En talsmand sagde: "Vores interne team af klinikere gennemgik de eksempler, der blev delt med os, og fandt, at informationen i mange tilfælde ikke var unøjagtig og blev understøttet af højkvalitetswebsites."
Victor Tangermann, seniorredaktør hos Futurism, sagde, at Guardians undersøgelse viser, at Google stadig har arbejde for at "sikre, at deres AI-værktøj ikke spreder farlig sundhedsfejlinformation."
Google oplyste, at AI Overviews kun vises for forespørgsler, hvor de har høj tillid til kvaliteten af svarene. Virksomheden tilføjede, at de konstant måler og gennemgår kvaliteten af deres oversigter på tværs af mange informationskategorier.
I en artikel for Search Engine Journal bemærkede seniorforfatter Matt Southern: "AI Overviews vises over rangerede søgeresultater. Når emnet er sundhed, har fejl større betydning."
Ofte stillede spørgsmål
Selvfølgelig. Her er en liste over ofte stillede spørgsmål om Googles fjernelse af AI-genererede søgeoversigter, der blev markeret som farlige.
Begynder-niveau spørgsmål
1. Hvad skete der med Googles AI-søgeoversigter?
Google fjernede nylig nogle af de AI-genererede svar i sine søgeresultater, efter at brugere delte eksempler, hvor rådgivningen var forkert og potentielt skadelig, især for sundhedsrelaterede spørgsmål.
2. Hvad er en AI Overview i Google Søg?
Det er en ny funktion, hvor Google bruger sin Gemini AI til at generere et kortfattet oversigtssvar øverst i søgeresultaterne, der trækker information fra hjemmesider, så du ikke behøver at klikke på flere links.
3. Hvilken slags farlige svar blev givet?
Nogle bredt delte eksempler inkluderede, at AI foreslog, at brugerne tilsatte lim til pizzasovs for at gøre den klæbrigere, eller at det er gavnligt at spise sten. Inden for sundhed gav den forkert rådgivning, som f.eks. hvor mange sten man skal spise om dagen, hvilket naturligvis er usikkert.
4. Hvorfor gav AI sådanne bizarre svar?
AI-modeller kan nogle gange fejltolke lavkvalitets, satirisk eller jokeindhold fra nettet som faktuel information. De har ikke virkelighedsforståelse eller sund fornuft til at vide, at rådgivningen er farlig.
5. Har Google løst problemet?
Google har fjernet de specifikke forkerte AI Overviews, der blev rapporteret, og siger, at de foretager tekniske forbedringer for at forhindre denne slags fejl. Den grundlæggende udfordring med AI-hallucination er dog et igangværende problem.
Avancerede og praktiske spørgsmål
6. Hvad betyder dette for fremtiden for AI i søgning?
Det fremhæver en stor hindring for AI-drevet søgning: at balancere hastighed og bekvemmelighed med nøjagtighed og sikkerhed. Denne hændelse vil sandsynligvis bremse den fulde udrulning og tvinge til mere menneskelig tilsyn, strengere sikkerhedsforanstaltninger og bedre kildeverificering.
7. Hvordan kan jeg se, om en AI Overview er pålidelig?
* Tjek kilderne: Klik på den lille pil ved siden af oversigten for at se, hvilke hjemmesider den hentede information fra. Er de velrenommerede?
* Brug sund fornuft: Hvis et svar virker mærkeligt, chokerende eller for enkelt for et komplekst emne, er det det sandsynligvis.
* Stop ikke ved oversigten: Konsultér altid de linkede kilder eller foretag yderligere research, især for sundheds-, finans- eller juridisk information.
8. Kan jeg slå AI Overviews fra i mine søgeresultater?
I øjeblikket er der ingen universel til/fra-knap.
