流式修复LLM输出的畸形JSON
推荐指数 67.0 NO. 008 · 2026.08.13
Stars124创建3 天前Forks0Issues0
为什么值得看
fluxmend 是一个在 LLM 流式生成过程中实时验证并修复结构化输出（JSON/XML）的 Python 库，用有限状态机逐字符校验而非等流结束再处理。对需要可靠解析 LLM 输出中嵌入代码块、配置项的 Agent 和工具链开发者，能显著降低解析失败导致的重试成本。
Streaming FSM validation + layered repair for LLM outputs with embedded structured components
媒体预览
编辑判断
目前主流方案如 OpenAI 的 structured outputs 或 Instructor 都是在 API 层面约束生成，但遇到模型不原生支持的场景（本地部署、自定义格式、嵌套在 Markdown 里的 JSON），开发者只能事后用 json.loads 硬解析，流式场景下更是每切一次 token 就崩一次。fluxmend 的差异化在于把验证下沉到字符级 FSM，兼容任意流式接口，且内置了 schema-aware 的自动修复策略（补括号、去尾随逗号等），不需要再调一次 LLM 来修。
跟 jsonrepair、partial-json-parser 这类纯后处理工具比，fluxmend 的优势是流式增量：不用等完整 buffer，错误发现即修复，延迟更低。如果你在做需要实时渲染 LLM 输出里图表配置、工具调用的产品，或者你的 pipeline 经常被模型生成的畸形 JSON 打断，这个库值得替换掉现有的 try-except 包裹逻辑。
Star History
生态分析
Experimental
LLM流式输出结构化验证的细分工具，填补实时FSM校验修复的空白
独特价值：逐字符FSM实时校验修复，无需等待流结束即可处理JSON/XML