本地 LLM 结构化决策引擎开源
推荐指数 60.0 NO. 006 · 2026.09.22
Stars217创建今天Forks6Issues1
为什么值得看
Rizzo Flow 复刻了 TypeSafe 的 Jev 模型，让 LLM 直接输出带概率的结构化决策（是/否、评分、选项），而非需要解析的文本。适合需要确定性输出的 AI 工作流，且完全本地运行、零 token 消耗。
The open, local take on Jev: typed decisions from an LLM, without generating a single token
媒体预览
编辑判断
做 AI Agent 的团队现在处理 LLM 决策基本是两种土办法：要么写一堆正则从文本里抠答案，要么用 OpenAI/Claude 的 function calling 但受限于供应商格式。Rizzo Flow 的差异化在于把 Jev 的"判断即类型"模型搬到了本地，意味着你可以用 7B 小模型做高可靠性的路由决策，成本降到接近零。
跟 Outlines、Guidance 这些结构化生成工具比，Rizzo Flow 不是约束解码（constrained decoding）路线，而是让模型直接对离散决策空间做概率分布输出，延迟更低。如果你的 Agent 有频繁的"要不要调用工具""走 A 分支还是 B 分支"这类判断，且不想被 OpenAI 的 latency 和成本卡住，这个值得替换一层试试。
Star History
生态分析
Experimental
本地零token结构化LLM决策引擎，填补确定性AI工作流工具空白
独特价值：免解析直接输出概率化结构化决策，彻底消除token消耗与解析不确定性