Del på nytt — innhold fra Dino Klisura
Hvis du gir en modell en oppgave, og fjerner dens tilgang til internett…
Modellen vil strebe etter å fullføre den oppgaven, og den vil finne den korteste veien for å gjøre det. Dette er bokstavelig talt systeminstruksjoner for hver eneste tilgjengelige modell.
Å finne en DNS-feil og utnytte den for å få tilgang til internett var den korteste veien. Modellen rømte ikke; modellen fant den enkleste måten å fullføre det den ble instruert til å gjøre.
OpenAI nekter å klargjøre dette av åpenbare grunner, og ærlig talt er jeg lei av det.
La oss ikke falle for AGI-markedsføringstrikset igjen.
AGI ville være AI som gjør ting på egen hånd uten NOEN instruksjoner gitt til den. Det ville være punktet uten retur.
9
5
1
9 reaksjoner
LinkedIn-kilder
- Profil: Pierre Jean Duvivier dit Sage (LinkedIn)
- Delt forfatter: Dino Klisura (LinkedIn)
Innlegget Hvis du gir en modell en oppgave, og fjerner dens tilgang til internett… dukket først opp på les plumes qui mordent.
Ofte stilte spørsmål
FAQs Å gi en modell en oppgave uten internettilgang
1 Hva betyr det å gi en modell en oppgave uten internettilgang
Det betyr at AI-modellen bare arbeider med informasjonen den allerede har fra trening pluss det du gir den i ledeteksten Den kan ikke søke på nettet åpne lenker eller hente livedata
2 Hvorfor skulle jeg fjerne en modells internettilgang
Hovedsakelig for personvern sikkerhet og kontroll Uten internett holder sensitive data seg lokalt det er mindre risiko for å hente inn upålitelige kilder og resultater er lettere å reprodusere
3 Kan modellen fortsatt svare på spørsmål uten internett
Ja så lenge svaret er i treningsdataene eller i det du gir den Den kan bare ikke slå opp noe nytt eller aktuelt
4 Hva slags oppgaver fungerer godt offline
Oppsummere dokumenter du gir skriveutkast redigering oversettelse kodehjelp dataanalyse på filer du laster opp og resonnering over dine egne notater
5 Hvilke oppgaver vil mislykkes uten internettilgang
Alt som trenger live eller fersk informasjon dagens nyheter aksjekurser gjeldende vær sanntids-API-er eller sjekke en URL du limer inn
6 Hvordan vet jeg om en modell har internettilgang
Sjekk dokumentasjonen eller innstillingene Mange verktøy har en synlig bryter eller en nettleser-søkefunksjon Hvis du er usikker spør den om dagens nyheter hvis den ikke kan er den sannsynligvis offline
7 Er en offline-modell mindre nøyaktig
Ikke nødvendigvis Den kan være svært nøyaktig for stabil kunnskap og for oppgaver basert på dokumentene du gir Den er bare begrenset på alt tidsfølsomt
8 Hva er forskjellen mellom ingen internett og ingen eksterne verktøy
Ingen internett betyr ingen nettilgang Ingen eksterne verktøy er bredere det blokkerer også ting som kodekjøring fillagring eller API-kall En modell kan ha det ene uten det andre
9 Hvordan gir jeg modellen informasjonen den trenger
Lim inn relevant tekst last opp dokumenter eller bruk gjenfinning til å mate den din egen kunnskapsbase Vær eksplisitt Bruk bare teksten nedenfor
10 Hva er RAG og trenger det internett
Retrieval-Augmented Generation lar modellen hente fra et privat dokumentlager før den svarer Det trenger ikke det offentlige internett bare tilgang til din egen datakilde
