你有没有看过你最喜欢的LLM生成的代码?

你有没有看过你最喜欢的LLM生成的代码?

你有没有看过你最喜欢的LLM生成的代码?

尤其是它的性能,包括生成代码的冗长程度、生产成本和脚本的执行速度?

我通过OpenCode Go(每月10美元)用几个LLM测试了一个简单的提示词:“编写一个PHP脚本,尽可能快地消费一个包含100,000条记录的XML文件。”

最终,我测试了6个LLM(我目前大量使用DeepSeek v4.1 Flash,我觉得它在编程方面非常出色)。

DeepSeek v4.1 Flash、Grok 4.7、Kimi K3.1 Pro、GPT-6 Luna、Gemini-5 Argon和Claude Haiku 5.5。

针对这个请求的结果如下:

最紧凑的代码由GPT-6 Luna生成,耗时29秒,成本为0.00156美元!这是我测试中的一大惊喜:OpenAI用Luna比DeepSeek便宜10倍……

最快的脚本由DeepSeek v4.1 Flash生成,在文件处理上达到528,000条/秒。

它解析100,000条XML记录确实只需要189毫秒!

它选择使用流式XMLReader……并且是最快的。

Claude Haiku 5.5在这个基准测试中也很便宜,生成代码非常快(17秒),而DeepSeek需要115秒(几乎是7倍),但生成的代码是执行最慢的之一。

在性能/速度/成本比方面,如果优先考虑所生成代码的执行速度,DeepSeek在这方面领先。

Grok非常昂贵(比DeepSeek贵20倍),但性能排名第二。

Luna比DeepSeek便宜10倍,性能排名第四,生成速度极快(29秒)。

这个小练习中有趣的地方在于,我们不仅仅是在衡量一个LLM生成可运行代码的能力,还在衡量它做出正确技术选择、避免不必要的冗长以及生成真正高性能程序的能力。

而且,很明显,最贵的模型不一定能生成最好的代码。

这也说明了另一个问题:哪个模型适合哪些任务……

(良好的)编排将成为一个越来越重要的问题。

LinkedIn来源

文章你有没有看过你最喜欢的LLM生成的代码?首次发表于les plumes qui mordent。



常见问题
常见问题 查看你最喜欢的LLM生成的代码

1 查看LLM生成的代码意味着什么
意味着真正阅读、运行并审查AI助手给你的代码,而不是盲目复制粘贴

2 为什么我应该花时间阅读AI生成的代码
因为LLM可能会自信地犯错。阅读代码有助于你在bug、安全问题和逻辑错误进入项目之前发现它们

3 审查AI代码需要是专家吗
不需要。即使是基本的阅读也有帮助——你可以发现明显的问题,比如硬编码密码、缺少错误处理或代码与你要求的不符

4 LLM在代码中常犯哪些类型的错误
典型问题包括幻觉函数或库、过时的API、差一错误、缺少边界情况以及不安全的默认设置

5 AI生成的代码可能包含安全漏洞吗
可能。模型有时会生成带有SQL注入风险、弱输入验证或暴露密钥的代码。发布前务必审查

6 为什么代码有时会引用不存在的函数或包
LLM预测看起来合理的文本,所以它们可能编造API。这被称为幻觉——务必验证导入和函数确实存在

7 AI生成的代码通常正确吗
通常接近正确,但“接近正确”通常不足以用于生产环境。将其视为初稿而非最终答案

8 检查AI代码最快的方法是什么
在小测试用例上运行它,逐行阅读,并检查每个导入和函数调用是否真实存在。然后测试边界情况

9 我应该用不同于自己代码的方式来测试AI生成的代码吗
其实不需要——但要彻底测试,尤其是边界情况和错误路径,因为模型可能没有考虑到它们

10 如果AI代码看起来干净且格式良好,我能信任它吗
不能。干净的格式并不能说明正确性。一些看起来最有说服力的AI代码可能存在微妙的缺陷

11 审查AI代码而不是直接拒绝它有什么好处
你可以获得AI生成的速度加上人类判断的安全性——而且你通常还能在此过程中学到新的模式或方法

12 如何知道AI是否使用了过时的库或API
检查