재공유 — Dino Klisura의 콘텐츠
모델에게 과제를 주고 인터넷 접근 권한을 제거하면…
모델은 그 과제를 완수하려고 노력할 것이며, 그렇게 하는 가장 짧은 경로를 찾을 것입니다. 이것은 말 그대로 사용 가능한 모든 모델에 대한 시스템 지침입니다.
DNS 버그를 찾아 그것을 이용해 인터넷에 접근하는 것이 가장 짧은 경로였습니다. 모델은 탈출한 것이 아니라, 지시받은 일을 완수하는 가장 쉬운 방법을 찾은 것입니다.
OpenAI는 명백한 이유로 이를 해명하기를 거부하고 있으며, 솔직히 저는 이제 지쳤습니다.
다시 AGI 마케팅 책략에 속지 맙시다.
AGI는 AI가 주어진 지시가 전혀 없이 스스로 일을 하는 것입니다. 그것이 돌아올 수 없는 지점일 것입니다.
9
5
1
9개의 반응
LinkedIn 출처
- 프로필: Pierre Jean Duvivier dit Sage (LinkedIn)
- 공유 작성자: Dino Klisura (LinkedIn)
게시물 모델에게 과제를 주고 인터넷 접근 권한을 제거하면…은(는) les plumes qui mordent에 처음 게시되었습니다.
자주 묻는 질문
FAQ 인터넷 접근 없이 모델에게 과제 주기
1 인터넷 접근 없이 모델에게 과제를 준다는 것은 무슨 뜻인가요
AI 모델이 훈련을 통해 이미 가지고 있는 정보와 프롬프트에서 제공하는 정보만으로 작업한다는 뜻입니다. 웹을 검색하거나 링크를 열거나 실시간 데이터를 가져올 수 없습니다.
2 왜 모델의 인터넷 접근을 제거해야 하나요
주로 개인정보 보호, 보안, 통제를 위해서입니다. 인터넷이 없으면 민감한 데이터가 로컬에 남아 있고, 신뢰할 수 없는 출처를 끌어올 위험이 적으며, 결과를 재현하기가 더 쉽습니다.
3 인터넷 없이도 모델이 여전히 질문에 답할 수 있나요
예, 답이 훈련 데이터나 제공한 내용에 있는 한 가능합니다. 다만 새로운 정보나 최신 정보를 조회할 수는 없습니다.
4 어떤 종류의 과제가 오프라인에서 잘 작동하나요
제공한 문서 요약, 텍스트 초안 작성, 편집, 번역, 코딩 도움, 업로드한 파일에 대한 데이터 분석, 자신의 노트에 대한 추론 등입니다.
5 인터넷 접근 없이는 어떤 과제가 실패하나요
실시간 또는 최신 정보가 필요한 모든 것, 예를 들어 오늘의 뉴스, 주가, 현재 날씨, 실시간 API, 붙여넣은 URL 확인 등입니다.
6 모델에 인터넷 접근 권한이 있는지 어떻게 알 수 있나요
문서나 설정을 확인하세요. 많은 도구에는 눈에 보이는 토글이나 브라우즈/검색 기능이 있습니다. 확실하지 않으면 오늘의 뉴스를 물어보세요. 답하지 못하면 오프라인일 가능성이 높습니다.
7 오프라인 모델은 정확도가 떨어지나요
반드시 그렇지는 않습니다. 안정적인 지식과 제공한 문서에 기반한 과제에서는 매우 정확할 수 있습니다. 다만 시간에 민감한 것에는 제한됩니다.
8 인터넷 없음과 외부 도구 없음의 차이는 무엇인가요
인터넷 없음은 웹 접근이 없다는 뜻입니다. 외부 도구 없음은 더 광범위하여 코드 실행, 파일 저장, API 호출 같은 것도 차단합니다. 모델은 둘 중 하나만 가질 수도 있습니다.
9 모델에게 필요한 정보를 어떻게 제공하나요
관련 텍스트를 붙여넣거나, 문서를 업로드하거나, 검색을 사용해 자신의 지식 기반을 제공하세요. 명확하게 하세요. 아래 텍스트만 사용하세요.
10 RAG란 무엇이며 인터넷이 필요한가요
검색 증강 생성은 모델이 답변하기 전에 비공개 문서 저장소에서 가져올 수 있게 합니다. 공용 인터넷은 필요 없고, 자신의 데이터 소스에 대한 접근만 필요합니다.
