LLM编程助手：聪明但笨拙
推荐指数 33.0 NO. 015 · 2026.07.08
发布2026/07/07Score53Comments28
为什么值得看
开发者实测Claude Fable辅助编码时发现，模型虽能审查代码、提交修复，却会反复犯低级错误如误提交build目录。LLM的非确定性本质使其在需要精确性的任务上持续不可靠，与确定性工具形成鲜明对比。
编辑判断
Karpathy 'automating themselves away' 的预言被过度浪漫化了。当前LLM编程助手的真正瓶颈不是能力上限，而是错误模式不可预测——它能通过复杂代码审查，却在build目录这种规则明确的事情上反复翻车。
这暴露了一个被忽视的产品设计问题：LLM适合'生成-审查'循环中的人类兜底场景，而非需要100%可靠性的自动化流水线。Ragel这类确定性工具在特定领域仍不可替代，混合架构（LLM+形式化工具）可能是更务实的路径。
如果你在用AI辅助开发，建议把LLM输出当作'高级草稿'而非可自动执行的指令，关键路径上保留确定性校验层。
社区反馈
意见分歧 26 条评论
核心争论：LLM应否用于确定性任务：效率提升 vs 本质错配
相关内容
“10倍速度，0倍理解？”AI代写代码的那些坑 AI编程助手能秒写千行代码，但写代码只是软件开发一小部分，理解需求、设计架构、测试验证才是大头，速度需转化为靠谱软件。 用Copilot一阵子后，开发者悟了：“AI越聪明，我们就越笨！” LLM是双刃剑，能提升生产力，但过度依赖会让人失去独立思考能力，类似于高级搜索引擎。 AI编程助手揭秘：200行代码戳破“魔法”幻象？ LLM是被隔离的大脑，作为思考核心却无法直接访问文件系统，像关在安全房间里的超级顾问。 提升 AI 编程效果的 6 个方法 企业呼吁用AI实现10倍效率，但高效使用AI编程助手是门艺术，需提供清晰、定义明确的提示应对代码库复杂性。
Makes sense, I have had the biggest wins with AI by attacking nondeterminism whenever possible. BTW, you should probably fix the Beagle link on your homepage: https://replicated.live/beagle/
Thanks, fixed. The runtime[1] and the scripts[2] are the practical ones. I am separating the old repo[3] into submodules since submodule recursion became smooth in Beagle. [1]: https://github.com/gritzko/jab [2]: https://github.com/gritzko/beagle-ext [3]: http
I find some of the most interesting, and catastrophic failures in my agent fine-tuning come from the clamping down of non-determinism. It is totally the correct approach, but must be handled delicately. The non-deterministic core remains, but now under bimodal pressure.