AMAZINGINDEX.COM 让生活多一点 Amazing
58.8
VOL. 2026.09
2026.09.24
← 返回 2026.09.24 日报
日报快照 · Daily Snapshot
NO. 009

LLM 决策外包层:省 token 的语义过滤器

#REPO GitHub Search 2026.09.24
推荐指数 50.0 NO. 009 · 2026.09.24
Stars195创建2 天前Forks9Issues1

JevRev 是一个围绕 LLM 的轻量级决策层,负责在生成循环中过滤方案、检查进度、终止低价值路径,让模型专注高回报任务。对烧 token 的 Agent 开发者来说,这是把"直觉判断"从 LLM 里抽出来、换成确定性规则的关键基础设施。

An LLM + Jev workflow. Boost your vertebrate brain with a spine inside.

LLM 决策外包层:省 token 的语义过滤器

当前主流 Agent 框架如 LangChain、AutoGen 都把路由决策交给 LLM 本身,每次分支判断都要烧几百 token,且容易陷入"再想想"的无限循环。JevRev 的做法是把 cheap decision 和 expensive generation 解耦,用轻量语义层做预筛选,这和 Cognition 的 Devin 内部架构 rumored 的设计方向一致,但开源且更轻量。

跟微软的 Guidance 或 Outlines 这类约束解码工具不同,JevRev 不控制生成格式,而是控制"是否值得继续生成",定位更偏产品层而非推理层。如果你正在用 ReAct 或 Plan-and-Solve 模式且 token 成本占运营成本 30% 以上,这个工具值得接入到现有管线里做 A/B 测试。

项目目前 195 stars 且刚起步,API 稳定性存疑,但核心抽象足够干净,fork 后自研改造的成本不高。

Star History
Experimental

LLM Agent 工作流中的轻量级决策过滤层,降低 token 消耗

独特价值:将 LLM 的直觉判断外置为确定性规则,以极简方式止损降本

竞品:
lifeporterlab/jev-verdict 更重审计与策略,JevRev 聚焦轻量决策过滤与 token 节省
查看原文 →