LLM 决策外包层:省 token 的语义过滤器
推荐指数 50.0 NO. 009 · 2026.09.24
Stars195创建2 天前Forks9Issues1
为什么值得看
JevRev 是一个围绕 LLM 的轻量级决策层,负责在生成循环中过滤方案、检查进度、终止低价值路径,让模型专注高回报任务。对烧 token 的 Agent 开发者来说,这是把"直觉判断"从 LLM 里抽出来、换成确定性规则的关键基础设施。
An LLM + Jev workflow. Boost your vertebrate brain with a spine inside.
媒体预览
编辑判断
当前主流 Agent 框架如 LangChain、AutoGen 都把路由决策交给 LLM 本身,每次分支判断都要烧几百 token,且容易陷入"再想想"的无限循环。JevRev 的做法是把 cheap decision 和 expensive generation 解耦,用轻量语义层做预筛选,这和 Cognition 的 Devin 内部架构 rumored 的设计方向一致,但开源且更轻量。
跟微软的 Guidance 或 Outlines 这类约束解码工具不同,JevRev 不控制生成格式,而是控制"是否值得继续生成",定位更偏产品层而非推理层。如果你正在用 ReAct 或 Plan-and-Solve 模式且 token 成本占运营成本 30% 以上,这个工具值得接入到现有管线里做 A/B 测试。
项目目前 195 stars 且刚起步,API 稳定性存疑,但核心抽象足够干净,fork 后自研改造的成本不高。
Star History
生态分析
Experimental
LLM Agent 工作流中的轻量级决策过滤层,降低 token 消耗
独特价值:将 LLM 的直觉判断外置为确定性规则,以极简方式止损降本
竞品:
lifeporterlab/jev-verdict 更重审计与策略,JevRev 聚焦轻量决策过滤与 token 节省