Az LLM-ek tévednek…
Amikor a kedvenc ügynököd hétfő reggel viccelődik veled, mint egy játékos kolléga…..és bejelenti, hogy nem frissítetted a PHP-t, pedig ez nem igaz….
Kis csibész.
LinkedIn-források
- Profil: Pierre Jean Duvivier, más néven Sage (LinkedIn)
A LLM-ek tévednek… bejegyzés először a les plumes qui mordent oldalon jelent meg.
Gyakran Ismételt Kérdések
GYIK Amikor az LLM-ek tévednek
1 Mit jelent, amikor azt mondják, hogy egy LLM téved
Azt jelenti, hogy a modell hamis, félrevezető, elavult vagy nem a kért választ adja—még akkor is, ha magabiztosnak hangzik
2 Mi az az LLM egyszerűen
A Nagy Nyelvi Modell egy AI, amelyet hatalmas mennyiségű szövegen tanítottak arra, hogy nyelvet jósoljon meg és generáljon. Nem úgy ismeri a tényeket, mint egy ember—valószínűnek hangzó szöveget állít elő
3 Miért találnak ki dolgokat az LLM-ek
Arra készültek, hogy hihető szöveget generáljanak, nem arra, hogy ellenőrizzék az igazságot. Amikor hiányzik a megfelelő információ, gördülékenyen hangzó, de hamis tartalommal tölthetik ki a hiányt
4 Mi az a hallucináció
A hallucináció az, amikor egy LLM magabiztosan állít valamit, ami nem igaz—például kitalál egy hamis hivatkozást, statisztikát vagy idézetet
5 Adhatnak az LLM-ek rossz válaszokat akkor is, ha biztosnak hangzanak
Igen. A hangnem magabiztossága semmit sem mond a pontosságról. A gördülékeny, határozott válaszok még mindig teljesen tévesek lehetnek
6 Miért tévednek az LLM-ek néha egyszerű tényekben
Tudásuk a tanítási adatokból származik, amelyek hiányosak, elavultak vagy zajosak lehetnek. Ráadásul nem néznek utána a dolgoknak, hacsak nem kapnak erre eszközt
7 Mindig ugyanazt a választ adják az LLM-ek ugyanarra a kérdésre
Nem. Sok modell nem determinisztikus, így a megfogalmazás és a részletek futásonként változhatnak—és néha a pontosság is változik
8 Miért mond ellent magának egy LLM egy beszélgetésben
Minden választ az eddigi beszélgetés alapján generál, anélkül hogy fix emlékezete lenne a korábbi állításairól. A hosszú vagy összetett csevegések valószínűbbé teszik az ellentmondásokat
9 Miért felejti el vagy keveri össze a korábban mondottakat
A modelleknek korlátozott kontextusablakuk van, és alapértelmezés szerint nincs tartós memóriájuk. A részletek elveszhetnek vagy elmosódhatnak, ahogy a beszélgetés növekszik
10 Miért kap ugyanaz a kérdés különböző válaszokat különböző nyelveken
A tanítási adatok és a teljesítmény nyelvenként változik, így egy modell pontosabb lehet angolul, mint a kevésbé reprezentált nyelveken
11 Melyek a gyakori jelei annak, hogy egy válasz téves lehet
Túl specifikus számok vagy forrás nélküli hivatkozások, homályos kétértelműség magabiztos állításokkal keverve, a tényleges kérdésedet kikerülő válaszok vagy túl kényelmesnek tűnő tények
