谷歌推决策专用API,分类任务快10倍
推荐指数 80.0 NO. 014 · 2026.11.12
发布2026/11/11Score216Comments73
简介
Gemini Decisions API 是专为封闭集决策设计的端点,单次前向传播即可对最多1000个问题返回概率和置信度,延迟仅150-250ms,定价$0.10/百万token。对需要高频做工具选择、策略审核、模型路由的AI工程团队,这意味着可以用确定性任务的成本跑通原本需要完整LLM调用的场景。
编辑判断
这个API的真正野心是抢占'确定性AI任务'的基础设施层。目前做工具选择或内容审核的团队大多用小型分类器(如BERT-base)或走完整GPT-4调用,前者准确率不够,后者成本浪费在生成无用token上。Gemini Decision 1的单次前向传播设计直接卡位中间地带,比OpenAI的function calling更轻量,比自托管小模型更省心。
定价$0.10/百万token是刻意针对AWS Comprehend和Azure Content Safety的狙击,但256K上下文窗口才是差异化杀招——能直接扔整份PDF做合规审核,不用先切分。做AI中间件或SaaS的团队现在就该跑benchmark对比自己的分类管线,如果延迟和准确率都能打平,迁移成本几乎为零。