Sdílení — obsah od Dino Klisura
Pokud dáte modelu úkol a odeberete mu přístup k internetu…
Model se bude snažit tento úkol splnit a najde k tomu nejkratší cestu. To jsou doslova systémové instrukce pro každý dostupný model.
Nalezení DNS chyby a její využití k získání přístupu k internetu byla nejkratší cesta. Model neutekl, model našel nejjednodušší způsob, jak dokončit to, co mu bylo nařízeno.
OpenAI to z očividných důvodů odmítá objasnit, a upřímně mě to už unavuje.
Nenechme se znovu nachytat na marketingový trik s AGI.
AGI by bylo AI, které dělá věci samo bez JAKÝCHKOLI daných instrukcí. To by byl bod, odkud není návratu.
9
5
1
9 reakcí
Zdroje na LinkedIn
- Profil: Pierre Jean Duvivier dit Sage (LinkedIn)
- Sdílející autor: Dino Klisura (LinkedIn)
Příspěvek Pokud dáte modelu úkol a odeberete mu přístup k internetu… se poprvé objevil na les plumes qui mordent.
Často kladené otázky
FAQs Zadání úkolu modelu bez přístupu k internetu
1 Co znamená zadat modelu úkol bez přístupu k internetu
Znamená to, že model AI pracuje pouze s informacemi, které již má z tréninku, plus s tím, co mu poskytnete v promptu. Nemůže prohledávat web, otevírat odkazy ani načítat živá data
2 Proč bych měl modelu odebrat přístup k internetu
Hlavně kvůli soukromí, bezpečnosti a kontrole. Bez internetu zůstávají citlivá data lokálně, je menší riziko načtení nespolehlivých zdrojů a výsledky se snáze reprodukují
3 Může model stále odpovídat na otázky bez internetu
Ano, pokud je odpověď v jeho tréninkových datech nebo v tom, co mu poskytnete. Nemůže jen vyhledávat něco nového nebo aktuálního
4 Jaké druhy úkolů fungují dobře offline
Shrnování dokumentů, které poskytnete, psaní textů, editace, překlad, pomoc s kódováním, analýza dat ze souborů, které nahrajete, a uvažování nad vašimi vlastními poznámkami
5 Jaké úkoly selžou bez přístupu k internetu
Cokoli, co potřebuje živé nebo nedávné informace, dnešní zprávy, ceny akcií, aktuální počasí, realtime API nebo kontrolu URL, kterou vložíte
6 Jak poznám, zda má model přístup k internetu
Zkontrolujte jeho dokumentaci nebo nastavení. Mnoho nástrojů má viditelný přepínač nebo funkci procházení/vyhledávání. Pokud si nejste jisti, zeptejte se ho na dnešní zprávy – pokud to nezvládne, je pravděpodobně offline
7 Je offline model méně přesný
Ne nutně. Může být velmi přesný pro stabilní znalosti a pro úkoly založené na dokumentech, které poskytnete. Je jen omezený u všeho časově citlivého
8 Jaký je rozdíl mezi žádným internetem a žádnými externími nástroji
Žádný internet znamená žádný přístup k webu. Žádné externí nástroje je širší pojem – blokuje také věci jako spouštění kódu, ukládání souborů nebo volání API. Model může mít jedno bez druhého
9 Jak modelu poskytnu informace, které potřebuje
Vložte relevantní text, nahrajte dokumenty nebo použijte retrieval k napojení vaší vlastní znalostní báze. Buďte explicitní. Použij pouze text níže
10 Co je RAG a potřebuje internet
Retrieval-Augmented Generation umožňuje modelu čerpat ze soukromého úložiště dokumentů před odpovědí. Nepotřebuje veřejný internet – jen přístup k vašemu vlastnímu zdroji dat
