Rhannu — cynnwys gan Julien Mutzenhardt
€17,000 mewn cosbau am JSON wedi'i fformatio'n wael: y camgymeriad angheuol gyda LLMs!
Achosodd datblygwr oedi enfawr wrth brosesu ffeiliau hanfodol i'w gwmni. Y rheswm? Gwall integreiddio syml. 
Ac eto roedd wedi nodi'n glir yn ei anogwr: "Atebwch mewn JSON." Y broblem yw bod y model, yn gwrtais iawn, wedi ateb: "Wrth gwrs, dyma'r wybodaeth:", cyn mewnosod ei god.
Canlyniad: chwalodd y dosrannydd, a oedd yn disgwyl gwrthrych JSON crai, mewn dolen. 
Y wers: Nid yw anogwr ond yn gyfarwyddyd, nid yn rhwymedigaeth.
Mae fel dweud wrth eich ci am beidio â chyffwrdd â'r cyw iâr ar y bwrdd, yna mynd i'r gwely. Nid oes unrhyw beth mewn gwirionedd yn gorfodi'r model deallusrwydd artiffisial i ufuddhau'n llym i'r fformat a ofynnwyd amdano.
Y gwir ateb: "Datgodio Cyfyngedig"
Yn hytrach na gobeithio y bydd y model yn cydymffurfio â'ch cyfarwyddiadau testun, rhowch "Sgema JSON" iddo (cynllun union yr ateb a ddisgwylir, i ddiffinio er enghraifft bod yn rhaid i swm fod yn rhif).
Sut mae'n gweithio o dan y caead?
Yn hytrach na gadael i'r LLM ddewis y gair nesaf o'i eirfa gyfan, mae'r peiriant cynhyrchu yn ailgyfrifo'r "tocynnau" a ganiateir mewn amser real. Er enghraifft, i ddechrau gwrthrych JSON, dim ond y braced agoriadol { y bydd yn ei ganiatáu. Nid oes gan y model unrhyw ddewis arall. Felly daw'r fformat yn ddilys drwy adeiladu, sy'n osgoi lansio miloedd o ymgais newydd diangen (ailgeisiau)! 
Sut i'w weithredu heb ailgodio anghenfil rhy gymhleth?
Anfonwch eich Sgema JSON at y APIs safonol (fel OpenAI neu Anthropic), sy'n gofalu am ei brosesu. Ac os ydych chi'n cynnal eich model AI eich hun yn lleol, mae peiriannau fel vLLM yn ei drin yr un mor hawdd.
Stopiwch wneud unrhyw beth mewn cynhyrchu a diogelwch y data allbwn o'ch LLMs! 
Cynhyrchwyd crynodeb yr erthygl hon gan AI.
A chi, ydych chi erioed wedi gweld system yn chwythu i fyny ganol hedfan oherwydd ateb annisgwyl gan ddeallusrwydd artiffisial?
#DeallusrwyddArtiffisial #Datblygu #JSON #LLM #OpenAI #VLLM #Rhaglennu #Tech
Os hoffech drafod y pwnc gyda mi neu wneud defnydd o'm sgiliau, gallwch gysylltu â mi trwy PM neu alwad fideo.
Ffynonellau LinkedIn
- Proffil: Pierre Jean Duvivier dit Sage (LinkedIn)
- Awdur a rennir: Julien Mutzenhardt (LinkedIn)
Ymddangosodd y post 🚨 €17,000 mewn cosbau am JSON wedi'i fformatio'n wael: y camgymeriad angheuol gyda LLMs! 🚨 gyntaf ar les plumes qui mordent.
Cwestiynau Cyffredin
Cwestiynau Cyffredin 17000 mewn Cosbau am JSON wedi'i Fformatio'n Wael Y Camgymeriad Angheuol gyda LLMs
1 Am beth mae'r gosb 17000 hon
Mae'n cyfeirio at achos go iawn lle cynhyrchodd system AI allbwn JSON diffygiol a dorrodd broses i lawr yr afon ac arweiniodd at gosb ariannol o 17000 Fe'i defnyddir fel enghraifft rybuddiol o pam mae fformatio allbwn yn bwysig
2 Beth yw JSON
Mae JSON yn fformat testun syml ar gyfer strwythuro data fel parau allwedd-gwerth, rhestrau a gwrthrychau nythog Dyma'r ffordd safonol y mae meddalwedd yn cyfnewid data
3 Beth mae JSON wedi'i fformatio'n wael yn ei olygu
JSON sy'n torri'r rheolau cystrawen er enghraifft dyfyniadau coll, comas olrhain, nodau heb eu dianc, cromfachau anghytbwys neu destun ychwanegol cyn/ar ôl y gwrthrych Mae dosrannwyr yn ei wrthod
4 Pam mae LLMs yn cynhyrchu JSON annilys
Mae LLMs yn cynhyrchu testun yn debygol Gallant ychwanegu esboniadau defnyddio ffensys cod markdown rhithdybio meysydd tocio allbwn neu wyro ychydig oddi wrth y sgema yn enwedig heb gyfarwyddiadau neu ddilysu llym
5 Sut gall gwall fformatio gostio 17000
Os yw system yn ymddiried yn ddall mewn allbwn LLM gall JSON annilys chwalu piblinellau awtomatig achosi trafodion anghywir sbarduno cosbau contractSLA neu orfodi atgyweiriadau â llaw Gall un gwall cystrawen bach gronni'n golled ariannol wirioneddol
6 Beth yw'r camgymeriad JSON mwyaf cyffredin y mae LLMs yn ei wneud
Lapio'r JSON mewn markdown neu ychwanegu testun sgwrsio o'i gwmpas Materion aml eraill comas olrhain dyfyniadau sengl ac allbwn wedi'i docio
7 Sut mae cael LLM i ddychwelyd JSON dilys
Gofynnwch yn benodol am JSON yn unig dim esboniad darparwch sgema neu enghraifft defnyddiwch dymheredd isel ac yn bwysicaf oll dilyswch ac ailgeisiwch ar fethiant
8 Beth yw dilysu sgema JSON
Ffordd o wirio bod JSON yn cyfateb i strwythur disgwyliedig Mae offer fel dilyswyr Sgema JSON yn dal gwallau cyn iddynt gyrraedd cynhyrchu
9 A ddylwn ymddiried mewn allbwn LLM heb ei wirio
Na Dilyswch allbwn LLM yn rhaglennol bob amser Triniwch ef fel mewnbwn anniogel yn union fel data a gyflwynwyd gan ddefnyddiwr
10 Beth yw allbynnau strwythuredig neu fodd JSON mewn LLMs
Nodweddion a gynigir gan rai darparwyr model sy'n cyfyngu
