A Google eltávolított néhány mesterséges intelligenciával generált egészségügyi összefoglalóját egy Guardian-nyomozás után, amely hamis és félrevezető információkat talált, amelyek veszélyeztethetik az embereket.
A cég az AI Áttekintéseit – amelyek generatív mesterséges intelligenciát használnak, hogy gyors összefoglalókat nyújtsanak egy témáról vagy kérdésről – "hasznosnak" és "megbízhatónak" írja le. Azonban ezek közül néhány összefoglaló, amely a keresési eredmények tetején jelenik meg, pontatlan egészségügyi információkat közölt, amelyek károsak lehetnek a felhasználókra.
Egy, a szakértők által "veszélyesnek" és "riasztónak" nevezett esetben a Google helytelen információt adott a kulcsfontosságú májműködési tesztekről. Ez arra vezethette volna a súlyos májbetegségben szenvedőket, hogy tévesen egészségesnek higgyék magukat. Amikor a "mi a normál tartomány a májvérvizsgálatoknál" kifejezésre kerestek, a Guardian azt találta, hogy a Google egy számokat felsoroló listát mutatott, kevés kontextussal és anélkül, hogy figyelembe vette volna a nemzetiséget, nemet, etnikumot vagy kort.
A szakértők figyelmeztettek, hogy amit a Google AI Áttekintése normálisnak jelölt, az drasztikusan eltérhet a tényleges orvosi szabványoktól. Emiatt a súlyosan beteg páciensek azt hihetik, hogy eredményeik rendben vannak, és kihagyják a fontos utókövetési időpontokat.
A nyomozást követően a Google eltávolította az AI Áttekintéseket a "mi a normál tartomány a májvérvizsgálatoknál" és a "mi a normál tartomány a májműködési teszteknél" keresőkifejezésekre.
A Google szóvivője kijelentette: "Nem kommentálunk az egyes eltávolításokat a Keresésen belül. Azokban az esetekben, amikor az AI Áttekintésekből hiányzik némi kontextus, általános fejlesztésekre törekszünk, és szükség esetén intézkedünk is irányelveink szerint."
Vanessa Hebditch, a British Liver Trust kommunikációs és politikai igazgatója üdvözölte az eltávolítást, de további aggodalmát fejezte ki. "Ez kiváló hír, és örülünk, hogy a Google eltávolította az AI Áttekintéseket ezekben az esetekben," mondta. "Azonban, ha a kérdést másképp teszik fel, egy potenciálisan félrevezető AI Áttekintés továbbra is megjelenhet, és attól tartunk, hogy más, mesterséges intelligenciával előállított egészségügyi információ is pontatlan és zavaró lehet."
A Guardian azt találta, hogy az eredeti keresés enyhe változatai – mint például az "lft referencia tartomány" vagy az "lft teszt referencia tartomány" – továbbra is kiváltották az AI Áttekintéseket. Hebditch szerint ez aggasztó. "A májműködési teszt különböző vérvizsgálatok gyűjteménye. Az eredmények megértése sokkal több, mint egy számcsoport összehasonlítása," magyarázta. "Az AI Áttekintések félkövérrel szedett listát mutatnak, így könnyen elkerülheti az olvasók figyelmét, hogy ezek a számok talán nem is relevánsak a saját vizsgálatukhoz. Az sem kerül figyelmeztetésre, hogy valakinek súlyos májbetegség mellett is lehetnek normális eredményei, ami további ellátást igényel. Ez a hamis megnyugtatás nagyon káros lehet."
A Google, amely a globális keresőpiac 91%-át birtokolja, azt mondta, hogy áttekinti a Guardian által felhozott új példákat.
Hebditch hozzátette: "Nagyobb aggodalmunk, hogy ez csak egyetlen keresési eredményt old meg, és a Google egyszerűen kikapcsolhatja az AI Áttekintést arra a lekérdezésre, de nem foglalkozik az egészségügyi információk AI Áttekintéseinek szélesebb problémájával."
Sue Farrington, a Patient Information Forum elnöke szintén üdvözölte az eltávolítást, de hasonló aggodalmakat osztott meg. "Ez jó eredmény, de csak a legelső lépés a Google egészségüggyel kapcsolatos keresési eredményeibe vetett bizalom fenntartásában. Még mindig túl sok példa van arra, hogy a Google AI Áttekintései pontatlan egészségügyi információkat adnak az embereknek."
Farrington megjegyezte, hogy világszerte már így is milliók küzdenek a megbízható egészségügyi információk elérésével. "Ezért annyira fontos, hogy a Google robusztus, kutatott egészségügyi információkhoz irányítsa az embereket." Az AI Áttekintések továbbra is megjelennek a Guardian által eredetileg a Google-nak bemutatott egyéb példák esetében is. Ezek között vannak olyan rákbetegségről és mentális egészségről szóló összefoglalók, amelyeket a szakértők "teljesen tévesnek" és "igazán veszélyesnek" neveztek.
Amikor megkérdezték, miért nem távolították el ezeket az AI Áttekintéseket, a Google azt válaszolta, hogy ezek jól ismert és megbízható forrásokra hivatkoznak, és tanácsot adnak a felhasználóknak, amikor fontos szakértői segítséget kérni.
Egy szóvivő így nyilatkozott: "Belső klinikai csapatunk áttekintette a velünk megosztott példákat, és azt találta, hogy sok esetben az információ nem volt pontatlan, és magas színvonalú weboldalak támasztották alá."
Victor Tangermann, a Futurism főszerkesztője szerint a Guardian nyomozása azt mutatja, hogy a Google-nak még van munkája "annak biztosításában, hogy mesterséges intelligencia eszköze ne terjesszen veszélyes egészségügyi félreinformációkat."
A Google kijelentette, hogy az AI Áttekintések csak olyan lekérdezések esetén jelennek meg, ahol magas a bizalma a válaszok minőségében. A cég hozzátette, hogy folyamatosan méri és felülvizsgálja összefoglalóinak minőségét az információ sok kategóriájában.
Matt Southern, a Search Engine Journal vezető írója egy cikkében megjegyezte: "Az AI Áttekintések a rangsorolt keresési eredmények felett jelennek meg. Amikor a téma az egészség, a hibák súlyosabbak."
Gyakran Ismételt Kérdések
Természetesen. Íme egy lista a Google veszélyesnek ítélt, mesterséges intelligenciával generált keresési összefoglalók eltávolításával kapcsolatos GYIK-ról.
Kezdő szintű kérdések
1. Mi történt a Google mesterséges intelligenciával generált keresési összefoglalóival?
A Google nemrég eltávolított néhány mesterséges intelligenciával generált választ a keresési eredményeiből, miután a felhasználók olyan példákat osztottak meg, ahol a tanácsok tévesek és potenciálisan károsak voltak, különösen egészségügyi kérdések esetén.
2. Mi az az AI Áttekintés a Google Keresésben?
Ez egy új funkció, ahol a Google a Gemini mesterséges intelligenciáját használja egy tömör összefoglaló válasz létrehozására a keresési eredmények tetején, információkat gyűjtve össze weboldalakról, így nem kell több linkre kattintani.
3. Milyen veszélyes válaszokat adtak?
Néhány széles körben megosztott példa között szerepelt, hogy az AI azt javasolta a felhasználóknak, hogy ragasztót adjanak a pizzaszószhoz, hogy tapadósabb legyen, vagy hogy a kövek fogyasztása hasznos. Egészségügyi kérdésekben helytelen tanácsot adott, például hogy naponta hány követ kell enni, ami nyilvánvalóan nem biztonságos.
4. Miért adott ilyen bizarr válaszokat az AI?
Az AI modellek néha félreértelmezhetik az internetről származó alacsony minőségű, szatirikus vagy vicces tartalmakat tényként. Nincs valós világbeli megértésük vagy józan észük ahhoz, hogy tudják, a tanács veszélyes.
5. Javította a Google a problémát?
A Google eltávolította a bejelentett konkrét hibás AI Áttekintéseket, és szerint műszaki fejlesztéseket hajt végre, hogy megelőzze az ilyen hibákat. Azonban az AI hallucináció alapvető kihívása folyamatos probléma.
Haladó / Gyakorlati kérdések
6. Mit jelent ez a jövőre nézve az AI-nek a keresésben?
Ez egy jelentős akadályt mutat meg az AI által hajtott keresés számára: a sebesség és kényelem egyensúlyozása a pontossággal és biztonsággal. Ez az eset valószínűleg lelassítja a teljes bevezetést, és több emberi felügyeletet, szigorúbb korlátokat és jobb forrásellenőrzést fog követelni.
7. Hogyan tudom megállapítani, hogy egy AI Áttekintés megbízható-e?
Ellenőrizd a forrásokat: Kattints az összefoglalás melletti kis nyílra, hogy lásd, mely weboldalakról gyűjtötte össze az információt. Megbízhatóak ezek?
Használd a józan eszed: Ha egy válasz furcsának, sokkolónak vagy túl egyszerűnek tűnik egy összetett témában, valószínűleg az is.
Ne állj meg az összefoglalásnál: Mindig nézd meg a linkelt forrásokat, vagy végezz további kutatást, különösen egészségügyi, pénzügyi vagy jogi információk esetén.
8. Kikapcsolhatom az AI Áttekintéseket a keresési eredményeimben?
Jelenleg nincs univerzális ki/be kapcsoló.
