如果你给一个模型一个任务,并移除它对互联网的访问……

如果你给一个模型一个任务,并移除它对互联网的访问……

转发 — 内容来自 Dino Klisura

如果你给一个模型一个任务,并移除它访问互联网的权限……

模型会努力完成那个任务,并且会找到完成它的最短路径。这些实际上就是每一个可用模型的系统指令。

找到一个 DNS 漏洞并利用它来获得互联网访问权限就是最短路径。模型没有逃脱,模型找到了完成它被指示去做的事情的最简单方式。

OpenAI 出于显而易见的原因拒绝澄清这一点,坦率地说,我对此感到厌倦。

让我们不要再上 AGI 营销方案的当了。

AGI 会是 AI 在没有给它任何指令的情况下自行做事。那才会是不可逆转的关键点。

9

5

1

9 个反应

LinkedIn 来源

文章如果你给一个模型一个任务,并移除它访问互联网的权限……首次出现在les plumes qui mordent。



常见问题
常见问题 在没有互联网访问权限的情况下给模型一个任务

1 在没有互联网访问权限的情况下给模型一个任务是什么意思
这意味着 AI 模型只能使用它从训练中已经拥有的信息,加上你在提示中提供的任何内容 它不能搜索网络、打开链接或获取实时数据

2 我为什么要移除模型的互联网访问权限
主要是为了隐私、安全和控制 没有互联网,敏感数据留在本地,拉入不可靠来源的风险更小,结果也更容易复现

3 模型在没有互联网的情况下还能回答问题吗
可以,只要答案在它的训练数据中或在你给它的内容中 它只是不能查找任何新的或当前的信息

4 哪些类型的任务适合离线运行
总结你提供的文档、起草文本、编辑、翻译、编码帮助、对你上传的文件进行数据分析,以及对你自己的笔记进行推理

5 哪些任务在没有互联网访问权限时会失败
任何需要实时或近期信息的内容,今天的新闻、股票价格、当前天气、实时 API,或检查你粘贴的 URL

6 我如何知道一个模型是否有互联网访问权限
查看它的文档或设置 许多工具有可见的开关或浏览/搜索功能 如果不确定,问它今天的新闻——如果它不能,它很可能是离线的

7 离线模型准确性更低吗
不一定 对于稳定的知识和基于你提供文档的任务,它可以非常准确 它只是在任何时间敏感的内容上受限

8 没有互联网和没有外部工具之间有什么区别
没有互联网意味着没有网络访问 没有外部工具范围更广——它还会阻止代码执行、文件存储或 API 调用之类的事情 一个模型可以拥有其中一个而没有另一个

9 我如何给模型提供它需要的信息
粘贴相关文本、上传文档,或使用检索来向它提供你自己的知识库 要明确 仅使用下面的文本

10 什么是 RAG,它需要互联网吗
检索增强生成让模型在回答之前从私有文档存储中提取内容 它不需要公共互联网——只需要访问你自己的数据源