Google usunął część swoich podsumowań generowanych przez sztuczną inteligencję po tym, jak dochodzenie „Guardiana” wykazało, że fałszywe i wprowadzające w błąd informacje narażają ludzi na niebezpieczeństwo.
Firma opisuje swoje „Przeglądy AI” – które wykorzystują generatywną sztuczną inteligencję do dostarczania szybkich podsumowań na dany temat lub pytanie – jako „pomocne” i „wiarygodne”. Jednak niektóre z tych podsumowań, pojawiające się na szczycie wyników wyszukiwania, dostarczały niedokładnych informacji zdrowotnych, które mogły zaszkodzić użytkownikom.
W jednym przypadku, który eksperci określili jako „niebezpieczny” i „alarmujący”, Google podał nieprawidłowe informacje na temat kluczowych testów czynności wątroby. To mogłoby doprowadzić do sytuacji, w której osoby z poważną chorobą wątroby błędnie uznałyby się za zdrowe. Wyszukując frazę „jaki jest prawidłowy zakres badań krwi wątroby”, „Guardian” odkrył, że Google przedstawił listę liczb z niewielkim kontekstem i bez uwzględnienia czynników takich jak narodowość, płeć, pochodzenie etniczne czy wiek.
Eksperci ostrzegali, że to, co przegląd AI Google oznaczył jako normalne, może drastycznie różnić się od rzeczywistych standardów medycznych. To mogłoby spowodować, że poważnie chorzy pacjenci założyliby, że ich wyniki badań są w porządku i pomijali ważne wizyty kontrolne.
Po dochodzeniu Google usunął Przeglądy AI dla wyszukiwań „jaki jest prawidłowy zakres badań krwi wątroby” oraz „jaki jest prawidłowy zakres badań czynności wątroby”.
Rzecznik Google powiedział: „Nie komentujemy indywidualnych usunięć w ramach Wyszukiwarki. W przypadkach, gdy Przeglądy AI pomijają pewien kontekst, pracujemy nad wprowadzeniem szerokich ulepszeń, a także podejmujemy działania zgodnie z naszymi zasadami, jeśli jest to właściwe”.
Vanessa Hebditch, dyrektor ds. komunikacji i polityki w British Liver Trust, przywitała usunięcie z zadowoleniem, ale wyraziła ciągłe zaniepokojenie. „To doskonała wiadomość i cieszymy się, że w tych przypadkach usunięto Przeglądy AI Google” – powiedziała. „Jednak jeśli pytanie zostanie zadane w inny sposób, potencjalnie wprowadzający w błąd Przegląd AI nadal może się pojawić i nadal niepokoi nas, że inne informacje zdrowotne wytworzone przez AI mogą być niedokładne i dezorientujące”.
„Guardian” odkrył, że nawet niewielkie odmiany oryginalnego wyszukiwania – takie jak „zakres referencyjny lft” czy „zakres referencyjny testu lft” – nadal uruchamiały Przeglądy AI. Hebditch powiedziała, że to niepokojące. „Test czynności wątroby to zestaw różnych badań krwi. Zrozumienie wyników obejmuje znacznie więcej niż porównanie zestawu liczb” – wyjaśniła. „Przeglądy AI przedstawiają listę pogrubioną czcionką, przez co czytelnicy mogą łatwo przeoczyć, że te liczby mogą nawet nie odnosić się do ich badania. Nie ostrzegają również, że ktoś może mieć normalne wyniki nawet przy poważnej chorobie wątroby, wymagającej dalszej opieki. To fałszywe uspokojenie mogłoby być bardzo szkodliwe”.
Google, który posiada 91% udziału w globalnym rynku wyszukiwarek, poinformował, że analizuje nowe przykłady dostarczone przez „Guardiana”.
Hebditch dodała: „Naszym większym zmartwieniem jest to, że to rozwiązuje problem pojedynczego wyniku wyszukiwania, a Google może po prostu wyłączyć Przegląd AI dla tego zapytania, ale nie rozwiązuje to szerszego problemu Przeglądów AI w przypadku informacji zdrowotnych”.
Sue Farrington, przewodnicząca Patient Information Forum, również przywitała usunięcie z zadowoleniem, ale podzieliła podobne obawy. „To dobry wynik, ale to dopiero pierwszy krok w utrzymaniu zaufania do wyników wyszukiwania Google związanych ze zdrowiem. Nadal jest zbyt wiele przykładów, w których Przeglądy AI Google dostarczają ludziom niedokładnych informacji zdrowotnych”.
Farrington zauważyła, że miliony dorosłych na całym świecie już teraz mają trudności z dostępem do wiarygodnych informacji zdrowotnych. „Dlatego tak ważne jest, aby Google kierował ludzi do solidnych, zbadanych informacji zdrowotnych”.
Przeglądy AI nadal pojawiają się w przypadku innych przykładów pierwotnie zgłoszonych Google'owi przez „Guardiana”. Obejmują one podsumowania na temat raka i zdrowia psychicznego, które eksperci określili jako „całkowicie błędne” i „naprawdę niebezpieczne”.
Zapytany, dlaczego te Przeglądy AI nie zostały usunięte, Google stwierdził, że odsyłają one do znanych i renomowanych źródeł oraz doradzają użytkownikom, kiedy ważne jest zasięgnięcie porady eksperta.
Rzecznik powiedział: „Nasz wewnętrzny zespół klinicystów przejrzał przykłady, którymi się z nami podzielono, i stwierdził, że w wielu przypadkach informacje nie były nieprawidłowe i były poparte wysokiej jakości stronami internetowymi”.
Victor Tangermann, starszy redaktor w Futurism, powiedział, że dochodzenie „Guardiana” pokazuje, że Google nadal ma pracę do wykonania, „aby zapewnić, że jego narzędzie AI nie rozpowszechnia niebezpiecznych dezinformacji zdrowotnych”.
Google stwierdził, że Przeglądy AI pojawiają się tylko w przypadku zapytań, co do których ma wysokie zaufanie co do jakości odpowiedzi. Firma dodała, że stale mierzy i przegląda jakość swoich podsumowań w wielu kategoriach informacji.
W artykule dla Search Engine Journal starszy pisarz Matt Southern zauważył: „Przeglądy AI pojawiają się ponad uszeregowanymi wynikami wyszukiwania. Gdy tematem jest zdrowie, błędy mają większą wagę”.
Często zadawane pytania
Oczywiście. Oto lista często zadawanych pytań dotyczących usunięcia przez Google podsumowań wyszukiwania generowanych przez AI, które zostały oznaczone jako niebezpieczne.
Pytania na poziomie podstawowym
1. Co się stało z podsumowaniami wyszukiwania AI Google?
Google niedawno usunął niektóre z odpowiedzi generowanych przez AI w swoich wynikach wyszukiwania po tym, jak użytkownicy udostępnili przykłady, w których porady były błędne i potencjalnie szkodliwe, szczególnie w przypadku pytań związanych ze zdrowiem.
2. Czym jest Przegląd AI w Wyszukiwarce Google?
To nowa funkcja, w której Google wykorzystuje swoją sztuczną inteligencję Gemini do wygenerowania zwięzłej odpowiedzi-podsumowania na szczycie wyników wyszukiwania, pobierając informacje ze stron internetowych, dzięki czemu nie musisz klikać wielu linków.
3. Jakiego rodzaju niebezpieczne odpowiedzi udzielano?
Niektóre szeroko udostępniane przykłady obejmowały sugestie AI, aby użytkownicy dodawali klej do sosu pizzy, aby był bardziej kleisty, lub że jedzenie skał jest korzystne. W kwestiach zdrowotnych udzielano błędnych porad, np. ile skał jeść dziennie, co jest oczywiście niebezpieczne.
4. Dlaczego AI udzielała tak dziwnych odpowiedzi?
Modele AI mogą czasami błędnie interpretować niskiej jakości, satyryczne lub żartobliwe treści z internetu jako informacje faktyczne. Nie mają one rzeczywistego zrozumienia świata ani zdrowego rozsądku, aby wiedzieć, że dana rada jest niebezpieczna.
5. Czy Google naprawił problem?
Google usunął konkretne, nieprawidłowe Przeglądy AI, które zostały zgłoszone, i twierdzi, że wprowadza ulepszenia techniczne, aby zapobiec tego rodzaju błędom. Jednak podstawowe wyzwanie halucynacji AI pozostaje ciągłym problemem.
Pytania zaawansowane / praktyczne
6. Co to oznacza dla przyszłości AI w wyszukiwaniu?
To podkreśla główną przeszkodę dla wyszukiwania napędzanego przez AI: równoważenie szybkości i wygody z dokładnością i bezpieczeństwem. Ten incydent prawdopodobnie spowolni pełne wdrożenie i wymusi większy nadzór człowieka, surowsze zabezpieczenia i lepszą weryfikację źródeł.
7. Jak mogę stwierdzić, czy Przegląd AI jest wiarygodny?
Sprawdź źródła. Kliknij małą strzałkę obok podsumowania, aby zobaczyć, z których stron internetowych pobrano informacje. Czy są one renomowane?
Użyj zdrowego rozsądku. Jeśli odpowiedź wydaje się dziwna, szokująca lub zbyt prosta jak na złożony temat, prawdopodobnie taka jest.
Nie poprzestawaj na podsumowaniu. Zawsze konsultuj się z podlinkowanymi źródłami lub przeprowadź dalsze badania, szczególnie w przypadku informacji zdrowotnych, finansowych lub prawnych.
8. Czy mogę wyłączyć Przeglądy AI w moich wynikach wyszukiwania?
Obecnie nie ma uniwersalnego przełącznika włącz/wyłącz.
