LLM'er tager fejl…
Når din yndlingsagent laver mandagsmorgensjoken på dig som en legesyg kollega…..og meddeler, at du ikke har opgraderet din PHP, når det ikke er sandt….
Lille drillepind.
LinkedIn-kilder
- Profil: Pierre Jean Duvivier aka Sage (LinkedIn)
Indlægget LLM'er tager fejl… dukkede først op på les plumes qui mordent.
Ofte stillede spørgsmål
FAQ'er Når LLM'er tager fejl
1 Hvad betyder det, når folk siger, at en LLM tager fejl
Det betyder, at modellen giver et svar, der er falsk, misvisende, forældet eller ikke det, du spurgte om, selvom det lyder selvsikkert
2 Hvad er en LLM i enkle vendinger
En Large Language Model er en AI trænet på enorme mængder tekst til at forudsige og generere sprog. Den kender ikke fakta på samme måde som en person gør – den producerer tekst, der lyder sandsynlig
3 Hvorfor finder LLM'er ting på
De er bygget til at generere plausibel tekst, ikke til at verificere sandhed. Når de mangler den rigtige information, kan de udfylde hullet med flydende, men falsk indhold
4 Hvad er en hallucination
En hallucination er, når en LLM selvsikkert udtaler noget, der ikke er sandt – som at opfinde en falsk kildeangivelse, statistik eller citat
5 Kan LLM'er give forkerte svar, selv når de lyder sikre
Ja. Sikkerhed i tonen siger intet om nøjagtigheden. Flydende, selvsikre svar kan stadig være helt forkerte
6 Hvorfor tager LLM'er nogle gange fejl af simple fakta
Deres viden kommer fra træningsdata, som kan være ufuldstændige, forældede eller støjende. De slår heller ikke ting op, medmindre de får et værktøj til det
7 Giver LLM'er altid det samme svar på det samme spørgsmål
Nej. Mange modeller er ikke-deterministiske, så formulering og detaljer kan variere mellem kørsler – og nogle gange varierer nøjagtigheden også
8 Hvorfor modsiger en LLM sig selv i én samtale
Den genererer hvert svar baseret på samtalen indtil da uden en fast hukommelse om sine tidligere udsagn. Lange eller komplekse chats gør inkonsistenser mere sandsynlige
9 Hvorfor glemmer den eller blander ting sammen, som jeg sagde tidligere
Modeller har begrænsede kontekstvinduer og ingen vedvarende hukommelse som standard. Detaljer kan gå tabt eller sløres, efterhånden som samtalen vokser
10 Hvorfor får det samme spørgsmål forskellige svar på forskellige sprog
Træningsdata og ydeevne varierer efter sprog, så en model kan være mere præcis på engelsk end på sprog, der er mindre repræsenteret
11 Hvad er almindelige tegn på, at et svar kan være forkert
Overdrevne specifikke tal eller kildeangivelser uden kilde, vagt forbehold blandet med selvsikre påstande, svar der undviger dit egentlige spørgsmål, eller fakta der virker for bekvemme
