Google har fjernet noen av sine AI-genererte helsesammendrag etter at en Guardian-undersøkelse fant at falsk og villedende informasjon utsatte folk for fare.
Selskapet beskriver sine AI-oversikter – som bruker generativ AI til å gi raske sammendrag om et emne eller et spørsmål – som "nyttige" og "pålitelige." Imidlertid har noen av disse sammendragene, som vises øverst i søkeresultatene, gitt unøyaktig helseinformasjon som kan skade brukerne.
I ett tilfelle som eksperter kalte "farlig" og "alarmende," ga Google feil informasjon om viktige leverfunksjonstester. Dette kan føre til at personer med alvorlig leversykdom feilaktig tror de er friske. Da Guardian søkte på "hva er normalt område for leverblodprøver," fant de at Google presenterte en liste med tall med liten kontekst og uten hensyn til faktorer som nasjonalitet, kjønn, etnisitet eller alder.
Eksperter advarte om at det Googles AI-oversikt merket som normalt, kan avvike drastisk fra faktiske medisinske standarder. Dette kan føre til at alvorlig syke pasienter antar at testresultatene deres var i orden og hopper over viktige oppfølgingsavtaler.
Etter undersøkelsen fjernet Google AI-oversikter for søkeordene "hva er normalt område for leverblodprøver" og "hva er normalt område for leverfunksjonstester."
En talsperson for Google sa: "Vi kommenterer ikke enkelte fjerninger i Søk. I tilfeller hvor AI-oversikter mangler noe kontekst, jobber vi med å gjøre brede forbedringer, og vi tar også tiltak i henhold til våre retningslinjer der det er passende."
Vanessa Hebditch, direktør for kommunikasjon og politikk ved British Liver Trust, ønsket fjerningen velkommen, men uttrykte vedvarende bekymring. "Dette er utmerket nytt, og vi er glade for å se fjerningen av Googles AI-oversikter i disse tilfellene," sa hun. "Imidlertid, hvis spørsmålet stilles på en annen måte, kan en potensielt villedende AI-oversikt fortsatt dukke opp, og vi er fortsatt bekymret for at annen AI-produsert helseinformasjon kan være unøyaktig og forvirrende."
Guardian fant at selv små variasjoner av det opprinnelige søket – som "lft referanseområde" eller "lft test referanseområde" – fortsatt utløste AI-oversikter. Hebditch sa dette var bekymringsverdig. "En leverfunksjonstest er en samling av forskjellige blodprøver. Å forstå resultatene involverer mye mer enn å sammenligne et sett med tall," forklarte hun. "AI-oversiktene presenterer en liste i fet skrift, noe som gjør det lett for lesere å gå glipp av at disse tallene kanskje ikke engang er relevante for testen deres. De advarer heller ikke om at noen kan ha normale resultater selv med alvorlig leversykdom, og trenger videre behandling. Denne falske forsikringen kan være svært skadelig."
Google, som har en 91% andel av det globale søkemarkedet, sa at de gjennomgår de nye eksemplene levert av Guardian.
Hebditch la til: "Vår større bekymring er at dette adresserer et enkelt søkeresultat, og Google kan ganske enkelt slå av AI-oversikten for den forespørselen, men det løser ikke det større problemet med AI-oversikter for helseinformasjon."
Sue Farrington, leder for Patient Information Forum, ønsket også fjerningen velkommen, men delte lignende bekymringer. "Dette er et godt resultat, men det er bare det aller første steget for å opprettholde tillit til Googles helserelaterte søkeresultater. Det er fortsatt for mange eksempler på at Google AI-oversikter gir folk unøyaktig helseinformasjon."
Farrington bemerket at millioner av voksne over hele verden allerede sliter med å få tilgang på pålitelig helseinformasjon. "Derfor er det så viktig at Google dirigerer folk til robust, forsket helseinformasjon." AI-oversikter dukker fortsatt opp for andre eksempler som Guardian opprinnelig fremhevet for Google. Disse inkluderer sammendrag om kreft og mental helse som eksperter har kalt "helt feil" og "virkelig farlige."
Da de ble spurt om hvorfor disse AI-oversiktene ikke var fjernet, opplyste Google at de lenker til velkjente og anerkjente kilder og råder brukerne om når det er viktig å søke ekspertveiledning.
En talsperson sa: "Vårt interne team av klinikere gjennomgikk eksemplene delt med oss og fant at i mange tilfeller var informasjonen ikke unøyaktig og ble støttet av høykvalitets-nettsteder."
Victor Tangermann, en seniorredaktør i Futurism, sa at Guardians undersøkelse viser at Google fortsatt har arbeid å gjøre "for å sikre at AI-verktøyet deres ikke sprer farlig helsefeilinformasjon."
Google opplyste at AI-oversikter bare vises for forespørsler hvor de har høy tillit til kvaliteten på svarene. Selskapet la til at de konstant måler og gjennomgår kvaliteten på sammendragene sine på tvers av mange informasjonskategorier.
I en artikkel for Search Engine Journal bemerket seniorforfatter Matt Southern: "AI-oversikter vises over rangerte søkeresultater. Når temaet er helse, har feil større betydning."
Vanlige spørsmål
Selvfølgelig. Her er en liste over vanlige spørsmål om Googles fjerning av AI-genererte søkesammendrag som ble flagget som farlige.
Begynnernivå-spørsmål
1. Hva skjedde med Googles AI-søkesammendrag?
Google fjernet nylig noen av de AI-genererte svarene i søkeresultatene sine etter at brukere delte eksempler der rådgivningen var feil og potensielt skadelig, spesielt for helserelaterte spørsmål.
2. Hva er en AI-oversikt i Google Søk?
Det er en ny funksjon der Google bruker sin Gemini AI til å generere et konsist sammendragssvar øverst i søkeresultatene, og henter informasjon fra nettsider slik at du ikke trenger å klikke på flere lenker.
3. Hva slags farlige svar ble gitt?
Noen bredt delte eksempler inkluderte AI som foreslo at brukere skulle tilsette lim i pizzasaus for å gjøre den seigere, eller at det er gunstig å spise steiner. For helse ga den feil råd, som hvor mange steiner man bør spise per dag, noe som åpenbart er usikkert.
4. Hvorfor ga AI så bisarre svar?
AI-modeller kan noen ganger feiltolke lavkvalitets, satirisk eller spøkefullt innhold fra nettet som faktisk informasjon. De har ikke virkelighetsforståelse eller sunn fornuft til å vite at rådgivningen er farlig.
5. Har Google løst problemet?
Google har fjernet de spesifikke feilaktige AI-oversiktene som ble rapportert, og sier at de gjør tekniske forbedringer for å forhindre slike feil. Imidlertid er kjerneproblemet med AI-hallusinasjon et vedvarende problem.
Avanserte og praktiske spørsmål
6. Hva betyr dette for fremtiden til AI i søk?
Det fremhever en stor hindring for AI-drevet søk: å balansere hastighet og bekvemmelighet med nøyaktighet og sikkerhet. Denne hendelsen vil sannsynligvis bremse den fulle utrullingen og tvinge frem mer menneskelig tilsyn, strengere sikkerhetsgjerder og bedre kildeverifisering.
7. Hvordan kan jeg vite om en AI-oversikt er pålitelig?
Sjekk kildene: Klikk på den lille pilen ved siden av sammendraget for å se hvilke nettsider informasjonen ble hentet fra. Er de pålitelige?
Bruk sunn fornuft: Hvis et svar virker rart, sjokkerende eller for enkelt for et komplekst tema, er det sannsynligvis det.
Ikke stopp ved sammendraget: Konsultér alltid de lenkede kildene eller gjør ytterligere research, spesielt for helse-, økonomi- eller juridisk informasjon.
8. Kan jeg slå av AI-oversikter i søkeresultatene mine?
Foreløpig er det ingen universell av/på-bryter.
