Google on poistanut osan tekoälyllä luoduista terveyteen liittyvistä yhteenvedoistaan Guardianin tutkimuksen jälkeen, joka paljasti, että väärä ja harhaanjohtava tieto asetti ihmiset vaaraan.
Yhtiö kuvailee AI Overview -ominaisuuttaan – joka käyttää generatiivista tekoälyä tarjotakseen nopeita yhteenvetoja aiheesta tai kysymyksestä – "hyödylliseksi" ja "luotettavaksi". Kuitenkin jotkin näistä hakutulosten yläpuolella näkyvistä yhteenvedoista ovat tarjonneet epätarkkaa terveystietoa, joka voi vahingoittaa käyttäjiä.
Yhdessä asiantuntijoiden "vaaralliseksi" ja "hälyttäväksi" kutsumassa tapauksessa Google antoi virheellistä tietoa keskeisistä maksan toimintatestistä. Tämä saattaa johtaa siihen, että vakavasta maksasairaudesta kärsivät ihmiset uskovat virheellisesti olevansa terveitä. Haettaessa "mikä on maksaverikokeiden normaali alue" Guardian havaitsi, että Google esitti numerolistan ilman riittävää kontekstia ja ottamatta huomioon tekijöitä kuten kansallisuus, sukupuoli, etnisyys tai ikä.
Asiantuntijat varoittivat, että Googlen tekoäly-yhteenvedossa normaalina esitetyt arvot saattavat poiketa huomattavasti todellisista lääketieteellisistä standardeista. Tämä saattaa aiheuttaa sen, että vakavasti sairaat potilaat olettavat testitulostensa olevan kunnossa ja jättävät väliin tärkeät seurantakäynnit.
Tutkimuksen jälkeen Google poisti AI Overview -yhteenvedot hakusanoille "mikä on maksaverikokeiden normaali alue" ja "mikä on maksan toimintatestien normaali alue".
Googlen tiedottaja totesi: "Emme kommentoi yksittäisiä poistoja haussa. Tapauksissa, joissa AI Overview -yhteenvedoista puuttuu kontekstia, pyrimme tekemään laajoja parannuksia, ja toimimme myös politiikkojemme mukaisesti tarvittaessa."
British Liver Trustin viestinnän ja politiikan johtaja Vanessa Hebditch toivotti poiston tervetulleeksi, mutta ilmaisi jatkuvaa huolta. "Tämä on erinomaista uutista, ja olemme iloisia nähdessämme, että Google on poistanut AI Overview -yhteenvedot näissä tapauksissa", hän sanoi. "Kuitenkin, jos kysymys esitetään eri tavalla, mahdollisesti harhaanjohtava tekoäly-yhteenveto saattaa edelleen ilmestyä, ja olemme edelleen huolissamme siitä, että muut tekoälyn tuottamat terveystiedot voivat olla epätarkkoja ja hämmentäviä."
Guardian havaitsi, että jopa alkuperäisestä hausta hieman poikkeavat muunnelmat – kuten "lft referenssialue" tai "lft-testin referenssialue" – laukaisivat edelleen AI Overview -yhteenvedot. Hebditch sanoi tämän olevan huolestuttavaa. "Maksan toimintatestit ovat kokoelma erilaisia verikokeita. Tulosten ymmärtäminen vaatii paljon enemmän kuin numerosarjan vertailua", hän selitti. "AI Overview -yhteenvedot esittävät listan lihavoituina, mikä saa lukijat helposti unohtamaan, että nämä luvut eivät välttämättä edes liity heidän testiinsä. Ne eivät myöskään varoita, että jollakin voi olla normaalit tulokset vaikka hänellä olisi vakava maksasairaus, joka vaatii lisähoitoa. Tämä väärä vakuuttelu voi olla erittäin haitallista."
Google, jolla on 91 % osuus maailmanlaajuisesta hakumarkkinoista, kertoi arvioivansa Guardianin toimittamia uusia esimerkkejä.
Hebditch lisäsi: "Suurempi huolenaiheemme on, että tämä käsittelee yhtä hakutulosta, ja Google voi yksinkertaisesti sammuttaa tekoäly-yhteenvedon kyseiselle kyselylle, mutta se ei ratkaise laajempaa ongelmaa terveystietojen tekoäly-yhteenvedoissa."
Patient Information Forumin puheenjohtaja Sue Farrington toivotti myös poiston tervetulleeksi, mutta jakoi samanlaiset huolenaiheet. "Tämä on hyvä tulos, mutta se on vain ensimmäinen askel luottamuksen säilyttämisessä Googlen terveyteen liittyvissä hakutuloksissa. On edelleen liian monta esimerkkiä siitä, että Googlen AI Overview -yhteenvedot antavat ihmisille epätarkkoja terveystietoja."
Farrington huomautti, että miljoonat aikuiset maailmanlaajuisesti kamppailevat jo luotettavan terveystiedon saamisen kanssa. "Siksi on niin tärkeää, että Google ohjaa ihmiset vankkoihin, tutkittuihin terveystietoihin." AI Overview -yhteenvedot ilmestyvät edelleen muille Guardianin Googlen huomioon tuomille esimerkeille. Näihin kuuluvat yhteenvedot syövästä ja mielenterveydestä, joita asiantuntijat ovat kutsuneet "täysin vääräksi" ja "todella vaaralliseksi".
Kysyttäessä, miksi näitä AI Overview -yhteenvetoja ei oltu poistettu, Google totesi, että ne linkittävät tunnettuihin ja arvovaltaisiin lähteisiin ja neuvovat käyttäjiä hakeutumaan asiantuntijan neuvon piiriin tarvittaessa.
Tiedottaja sanoi: "Sisäinen kliininen tiimimme tarkasti kanssamme jaetut esimerkit ja havaitsi, että monissa tapauksissa tiedot eivät olleet epätarkkoja ja niitä tukivat laadukkaat verkkosivustot."
Futurismin vanhempi toimittaja Victor Tangermann sanoi Guardianin tutkimuksen osoittavan, että Googlella on vielä työtä tehtävänä "varmistaakseen, että sen tekoälytyökalu ei levitä vaarallista terveysväärää tietoa".
Google totesi, että AI Overview -yhteenvedot ilmestyvät vain kyselyille, joissa sillä on korkea luottamus vastausten laatuun. Yhtiö lisäsi, että se mittaa ja tarkastelee jatkuvasti yhteenvetojensa laatua monissa tietokategorioissa.
Search Engine Journal -sivuston artikkelissa vanhempi kirjoittaja Matt Southern totesi: "AI Overview -yhteenvedot ilmestyvät luokiteltujen hakutulosten yläpuolella. Kun aiheena on terveys, virheillä on suurempi paino."
Usein Kysytyt Kysymykset
Tässä on luettalo usein kysytyistä kysymyksistä Googlen poistamista vaarallisiksi todetuista tekoälyllä luoduista hakuyhteenvedoista.
Aloittelijatason Kysymykset
1 Mitä tapahtui Googlen tekoälyhakuyhteenvedoille
Google poisti äskettäin osan tekoälyllä luoduista vastauksistaan hakutuloksissaan käyttäjien jaettua esimerkkejä, joissa neuvot olivat väärät ja mahdollisesti haitallisia erityisesti terveyteen liittyvissä kysymyksissä
2 Mikä on AI Overview Google Haussassa
Se on uusi ominaisuus, jossa Google käyttää Gemini-tekoälyään luodakseen tiiviin yhteenvetovastauksen hakutulosten yläpuolelle keräten tietoa verkkosivustoilta, joten sinun ei tarvitse klikata useita linkkejä
3 Millaisia vaarallisia vastauksia annettiin
Joitakin laajasti jaettuja esimerkkejä olivat tekoälyn ehdotus lisätä liimaa pizzakastikkeeseen, jotta se tarttuisi paremmin, tai että kivien syöminen on hyödyllistä. Terveyden suhteen se antoi väärää neuvoa, kuten kuinka monta kiveä tulisi syödä päivässä, mikä on ilmeisen turvatonta
4 Miksi tekoäly antoi niin omituisia vastauksia
Tekoälymallit saattavat joskus tulkita matalaa laatua olevaa satiirista tai vitsimäistä sisältöä verkosta tosiasioiksi. Niillä ei ole todellisen maailman ymmärrystä tai maalaisjärkeä tietääkseen, että neuvot ovat vaarallisia
5 Onko Google korjannut ongelman
Google on poistanut raportoidut virheelliset AI Overview -yhteenvedot ja kertoo tekevänsä teknisiä parannuksia estääkseen tällaiset virheet. Kuitenkin tekoälyn harhan keskeinen haaste on jatkuva ongelma
Edistyneet ja Käytännön Kysymykset
6 Mitä tämä tarkoittaa tekoälyn tulevaisuudelle haussa
Se korostaa merkittävää esteitä tekoälyllä tuotetussa haussa: nopeuden ja mukavuuden tasapainottamista tarkkuuden ja turvallisuuden kanssa. Tämä tapaus todennäköisesti hidastaa täyttä käyttöönottoa ja pakottaa lisää ihmisen valvontaa, tiukempia rajoituksia ja parempaa lähdeverifiointia
7 Miten tiedän, onko AI Overview -yhteenveto luotettava
Tarkista lähteet. Klikkaa pientä nuolta yhteenvedon vierestä nähdäksesi, mistä verkkosivustoista se keräsi tiedot. Ovatko ne arvovaltaisia
Käytä maalaisjärkeä. Jos vastaus vaikuttaa oudolta, shokeeraavalta tai liian yksinkertaiselta monimutkaiselle aiheelle, se luultavasti on
Älä pysähdy yhteenvetoon. Tutki aina linkitettyjä lähteitä tai tee lisätutkimusta erityisesti terveyteen, talouteen tai lakiin liittyvissä asioissa
8 Voinko sammuttaa AI Overview -yhteenvedot hakutuloksissani
Tällä hetkellä ei ole yleistä päälle/pois-kytkintä
