LLM-y się mylą…
Kiedy twój ulubiony agent robi ci poniedziałkowy poranny żart jak kolega z pracy…..i ogłasza, że nie zaktualizowałeś swojego PHP, kiedy to nieprawda….
Mały łobuz.
Źródła LinkedIn
- Profil: Pierre Jean Duvivier aka Sage (LinkedIn)
Wpis LLM-y się mylą… pojawił się najpierw na les plumes qui mordent.
Najczęściej zadawane pytania
FAQ Kiedy LLM-y się mylą
1 Co to znaczy, kiedy ludzie mówią, że LLM się myli
To znaczy, że model udziela odpowiedzi, która jest fałszywa, wprowadzająca w błąd, nieaktualna lub nie taka, o jaką prosiłeśmimo że brzmi pewnie
2 Co to jest LLM w prostych słowach
Duży model językowy to AI wytrenowana na ogromnych ilościach tekstu, aby przewidywać i generować język On nie zna faktów tak jak człowiekprodukuje tekst, który brzmi prawdopodobnie
3 Dlaczego LLM-y wymyślają rzeczy
Są zbudowane do generowania prawdopodobnego tekstu, a nie do weryfikowania prawdy Kiedy brakuje im właściwych informacji, mogą wypełnić lukę płynnie brzmiącą, ale fałszywą treścią
4 Co to jest halucynacja
Halucynacja to sytuacja, gdy LLM pewnie stwierdza coś, co nie jest prawdąjak wymyślenie fałszywego cytatu, statystyki lub wypowiedzi
5 Czy LLM-y mogą udzielać błędnych odpowiedzi, nawet gdy brzmią pewnie
Tak Pewność w tonie nic nie mówi o dokładności Płynne, stanowcze odpowiedzi mogą być wciąż całkowicie błędne
6 Dlaczego LLM-y czasami mylą proste fakty
Ich wiedza pochodzi z danych treningowych, które mogą być niekompletne, nieaktualne lub zaszumione Nie sprawdzają też rzeczy, chyba że dostaną narzędzie do tego
7 Czy LLM-y zawsze udzielają tej samej odpowiedzi na to samo pytanie
Nie Wiele modeli jest niedeterministycznych, więc sformułowania i szczegóły mogą się różnić między uruchomieniamia czasami dokładność też się różni
8 Dlaczego LLM zaprzecza sam sobie w jednej rozmowie
Generuje każdą odpowiedź na podstawie dotychczasowej rozmowy bez stałej pamięci swoich wcześniejszych twierdzeń Długie lub złożone rozmowy zwiększają prawdopodobieństwo niespójności
9 Dlaczego zapomina lub myli rzeczy, które powiedziałem wcześniej
Modele mają ograniczone okna kontekstu i domyślnie brak trwałej pamięci Szczegóły mogą się gubić lub zacierać w miarę rozwoju rozmowy
10 Dlaczego to samo pytanie dostaje różne odpowiedzi w różnych językach
Dane treningowe i wydajność różnią się w zależności od języka, więc model może być dokładniejszy w języku angielskim niż w językach słabiej reprezentowanych
11 Jakie są typowe oznaki, że odpowiedź może być błędna
Nadmiernie konkretne liczby lub cytaty bez źródła, niejasne wahanie zmieszane z pewnymi twierdzeniami, odpowiedzi, które unikają twojego rzeczywistego pytania, lub fakty, które wydają się zbyt wygodne
