LLM-ите грешат…
Когато любимият ви агент ви прави шега в понеделник сутрин като игрив колега…..и обяви, че не сте актуализирали PHP, когато това не е вярно….
Малък пакостник.
Източници от LinkedIn
- Профил: Pierre Jean Duvivier, известен още като Sage (LinkedIn)
Публикацията LLM-ите грешат… се появи за първи път в les plumes qui mordent.
Често задавани въпроси
ЧЗВ Когато LLM-ите грешат
1 Какво означава, когато хората казват, че даден LLM греши
Означава, че моделът дава отговор, който е неверен, подвеждащ, остарял или не е това, което сте попитали—въпреки че звучи уверено
2 Какво е LLM с прости думи
Голям езиков модел е AI, обучен върху огромни количества текст, за да предвижда и генерира език. Той не знае фактите по начина, по който ги знае човек—той произвежда текст, който звучи вероятно
3 Защо LLM-ите си измислят неща
Те са създадени да генерират правдоподобен текст, а не да проверяват истината. Когато им липсва правилната информация, те могат да запълнят празнината с гладко звучащо, но невярно съдържание
4 Какво е халюцинация
Халюцинация е, когато даден LLM уверено заявява нещо, което не е вярно—като измисля фалшиво цитиране, статистика или цитат
5 Могат ли LLM-ите да дават грешни отговори, дори когато звучат сигурни
Да. Увереността в тона не казва нищо за точността. Гладките, категорични отговори все още могат да бъдат напълно грешни
6 Защо LLM-ите понякога бъркат прости факти
Знанията им идват от обучителни данни, които могат да бъдат непълни, остарели или шумни. Те също не проверяват нещата, освен ако не им бъде даден инструмент за това
7 Дават ли LLM-ите винаги един и същ отговор на един и същ въпрос
Не. Много модели са недетерминистични, така че формулировката и детайлите могат да варират между отделните изпълнения—а понякога и точността варира
8 Защо даден LLM си противоречи в един разговор
Той генерира всеки отговор въз основа на разговора дотук, без фиксирана памет за предишните си твърдения. Дългите или сложни чатове правят несъответствията по-вероятни
9 Защо забравя или обърква неща, които казах по-рано
Моделите имат ограничени контекстови прозорци и по подразбиране нямат постоянна памет. Детайлите могат да се загубят или замъглят с разрастването на разговора
10 Защо един и същ въпрос получава различни отговори на различни езици
Обучителните данни и представянето варират според езика, така че даден модел може да е по-точен на английски, отколкото на по-слабо представени езици
11 Кои са честите признаци, че един отговор може да е грешен
Прекалено конкретни числа или цитати без източник, неясни уклончиви формулировки, смесени с уверени твърдения, отговори, които избягват действителния ви въпрос, или факти, които изглеждат твърде удобни
