LLM:er har fel…
När din favoritagent spelar dig ett måndagmorgonskämt som en lekfull kollega…..och meddelar att du inte har uppgraderat din PHP när det inte är sant….
Lilla rackare.
LinkedIn-källor
- Profil: Pierre Jean Duvivier aka Sage (LinkedIn)
Inlägget LLM:er har fel… dök först upp på les plumes qui mordent.
Vanliga frågor
Vanliga frågor När LLM:er har fel
1 Vad betyder det när folk säger att en LLM har fel
Det betyder att modellen ger ett svar som är falskt vilseledande föråldrat eller inte det du frågade efteräven om det låter självsäkert
2 Vad är en LLM i enkla ord
En Large Language Model är en AI tränad på enorma mängder text för att förutsäga och generera språk Den känner inte till fakta på samma sätt som en människa görden producerar sannoliktlåtande text
3 Varför hittar LLM:er på saker
De är byggda för att generera rimlig text inte för att verifiera sanning När de saknar rätt information kan de fylla luckan med flytande men falskt innehåll
4 Vad är en hallucination
En hallucination är när en LLM självsäkert påstår något som inte är sant som att hitta på en falsk källa statistik eller citat
5 Kan LLM:er ge fel svar även när de låter säkra
Ja Säkerhet i tonen säger ingenting om noggrannhet Flytande bestämda svar kan fortfarande vara helt fel
6 Varför har LLM:er ibland fel om enkla fakta
Deras kunskap kommer från träningsdata som kan vara ofullständig föråldrad eller brusig De slår inte heller upp saker om de inte får ett verktyg för det
7 Ger LLM:er alltid samma svar på samma fråga
Nej Många modeller är ickedeterministiska så formuleringar och detaljer kan variera mellan körningarnaoch ibland varierar noggrannheten också
8 Varför motsäger en LLM sig själv i en konversation
Den genererar varje svar baserat på konversationen hittills utan ett fast minne av sina tidigare påståenden Långa eller komplexa chattar gör inkonsekvenser mer sannolika
9 Varför glömmer den eller blandar ihop saker jag sagt tidigare
Modeller har begränsade kontextfönster och inget bestående minne som standard Detaljer kan gå förlorade eller bli suddiga när konversationen växer
10 Varför får samma fråga olika svar på olika språk
Träningsdata och prestanda varierar mellan språk så en modell kan vara mer noggrann på engelska än på mindre representerade språk
11 Vilka är vanliga tecken på att ett svar kan vara fel
Överdrivet specifika siffror eller källor utan källa vagt förbehåll blandat med självsäkra påståenden svar som undviker din faktiska fråga eller fakta som verkar för bekväma
