LLM to pletou…
Když si váš oblíbený agent zahraje pondělní ranní vtip jako hravý kolega…..a oznámí, že jste neaktualizovali PHP, když to není pravda….
Malý dareba.
Zdroje LinkedIn
- Profil: Pierre Jean Duvivier aka Sage (LinkedIn)
Příspěvek LLM to pletou… se poprvé objevil na les plumes qui mordent.
Často kladené otázky
FAQs Když se LLM pletou
1 Co znamená, když se řekne, že se LLM plete
Znamená to, že model dává odpověď, která je nepravdivá, zavádějící, zastaralá nebo neodpovídá tomu, na co jste se ptali—i když zní sebevědomě
2 Co je LLM jednoduše řečeno
Velký jazykový model je AI trénovaná na obrovském množství textu, aby předpovídala a generovala jazyk. Nezná fakta tak jako člověk—produkuje text, který zní pravděpodobně
3 Proč si LLM vymýšlejí věci
Jsou navrženy tak, aby generovaly pravděpodobný text, ne aby ověřovaly pravdu. Když jim chybí správné informace, mohou mezeru vyplnit plynulým, ale nepravdivým obsahem
4 Co je halucinace
Halucinace je, když LLM sebevědomě tvrdí něco, co není pravda—jako vymýšlení falešné citace, statistiky nebo citátu
5 Mohou LLM dávat špatné odpovědi, i když zní jistě
Ano. Sebevědomý tón nic neříká o přesnosti. Plynulé, asertivní odpovědi mohou být stále zcela špatné
6 Proč LLM někdy pletou jednoduchá fakta
Jejich znalosti pocházejí z trénovacích dat, která mohou být neúplná, zastaralá nebo zašuměná. Také si věci nevyhledávají, pokud k tomu nedostanou nástroj
7 Dávají LLM vždy stejnou odpověď na stejnou otázku
Ne. Mnoho modelů je nedeterministických, takže formulace a detaily se mohou mezi běhy lišit—a někdy se liší i přesnost
8 Proč si LLM v jedné konverzaci odporuje
Generuje každou odpověď na základě dosavadní konverzace bez pevné paměti svých dřívějších tvrzení. Dlouhé nebo složité chaty činí nesrovnalosti pravděpodobnějšími
9 Proč zapomíná nebo si plete věci, které jsem řekl dříve
Modely mají omezená kontextová okna a ve výchozím nastavení žádnou trvalou paměť. Detaily se mohou ztratit nebo rozmazat, jak konverzace roste
10 Proč dostává stejná otázka různé odpovědi v různých jazycích
Trénovací data a výkon se liší podle jazyka, takže model může být přesnější v angličtině než v méně zastoupených jazycích
11 Jaké jsou běžné známky toho, že odpověď může být špatná
Příliš konkrétní čísla nebo citace bez zdroje, vágní vyhýbání smíchané se sebevědomými tvrzeními, odpovědi, které se vyhýbají vaší skutečné otázce, nebo fakta, která se zdají příliš convenientní
