Gemini Decisions API 是什么?
Google 的 Gemini Decisions API 在一次前向计算中对候选选项打分,返回概率与置信度,端到端延迟 150–250 毫秒,输入 token 每百万 $0.10。
最近更新 ·
Gemini Decisions API:基于 Gemini Decision 1 的快速封闭集决策
资料对应公告日期:
Gemini Decisions API 是 Google 推出的新端点,用于快速完成封闭集决策,由新的 Gemini Decision 1 模型(gemini-decision-1)驱动。它不逐 token 生成答案文本,而是在一次前向计算中对候选选项打分,返回概率和置信度分数。该 API 可通过 Google AI Studio 中的 Gemini API 使用,并提供用于原型设计的免费层级。

Gemini Decisions API 是什么
Gemini Decisions API 是一个专用于封闭集决策的端点,而不是生成自由文本。它由新的 Gemini Decision 1 模型(gemini-decision-1)驱动,可通过 Google AI Studio 中的 Gemini API 使用。
与文本生成的关键区别在于输出:Gemini Decision 1 不逐 token 生成答案文本,而是在一次前向计算中对候选选项打分,返回概率和置信度分数。这使它适合分类、路由和评分等可能答案已知的任务。
- 封闭集决策:由你提供候选选项,模型对其打分。
- 返回概率和置信度分数,而非生成的文本。
- 可通过 Google AI Studio 中的 Gemini API 使用。
支持的决策类型:noul、choice 和 score
该 API 支持三种决策类型。noul 是是/否决策,估计某个是/否条件成立的概率,可选提供 true 和 false 的描述标准。choice 是多项选择:从 2 到 255 个选项中选出结果,并返回每个候选的归一化概率。score 是有序评分:按照从 0 开始的有序评分标准对输入评分,返回连续加权分数和各等级概率。
- noul:是/否概率,可选 true 和 false 标准。
- choice:2 到 255 个选项,返回胜出项及所有候选的归一化概率。
- score:从 0 开始的有序评分标准,返回连续加权分数和各等级概率。
多模态输入与单请求多问题
单个请求可以包含一个多模态输入,覆盖文本、图像、音频、视频和 PDF,最多 256K token,同时最多可包含 1,000 个独立问题。这样可以在同一共享上下文上评估多个决策,而无需重复发送上下文。
计费也体现了这种共享:无论评估多少个问题,共享输入每个请求只计费一次,每个问题只增加其自身的指令和标准 token。
- 一个多模态输入,覆盖文本、图像、音频、视频和 PDF,最多 256K token。
- 每个请求最多 1,000 个独立问题。
- 共享输入每个请求只计费一次;每个问题只增加其指令和标准 token。
价格与延迟
Gemini Decision 1 的定价为每 100 万输入 token $0.10,输出 token 不计费,端到端延迟为 150–250 毫秒。Google AI Studio 中提供免费 API 层级用于原型设计。
- 每 100 万输入 token $0.10;输出 token 不计费。
- 端到端延迟 150–250 毫秒。
- Google AI Studio 中提供免费 API 层级用于原型设计。
置信度分数与人工转交
每个答案都包含 0 到 1 的置信度分数。这使你的代码可以将模糊情况转交给回退方案或人工审核,而不是把每个决策都视为同等可靠。一种实用做法是根据用例设置阈值,并将低置信度结果送交审核。
- 每个答案都带有 0 到 1 的置信度分数。
- 使用阈值将模糊情况转交给回退方案或人工审核。
- 阈值取值属于设计选择,并非文档给出的默认值。
SDK、集成与上手方式
该 API 可通过 Google AI Studio 中的 Gemini API 使用,其中免费层级支持原型设计。生态集成正在陆续覆盖 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode,并与 google-genai SDK 一同提供;对 Google Cloud 中 Gemini 的支持即将推出。
上手时,可先在 Google AI Studio 中使用免费层级,定义候选选项和标准,并在自己的输入上测试置信度分数的表现,然后再在生产环境中依赖阈值。
- 从 Google AI Studio 的免费层级开始。
- 提供 google-genai SDK;集成正在陆续覆盖 OpenRouter、LangChain、Vercel、LiteLLM、Pydantic AI、Pipecat、LiveKit 和 OpenCode。
- 对 Google Cloud 中 Gemini 的支持即将推出。
示例用例:Gemini Notebook
Gemini Notebook 将 Decisions API 用作实时路由器,在毫秒级内对意图进行分类,并以最高降低 40% 的延迟服务日常查询,同时将深度推理模型保留给复杂任务。这体现了预期模式:在较重的生成之前进行快速的封闭集路由。
- 毫秒级实时意图分类。
- 日常查询延迟最高降低 40%。
- 深度推理模型保留给复杂任务。
常见问题
Gemini Decision 1 与文本生成有何不同?
Gemini Decision 1 不逐 token 生成答案文本,而是在一次前向计算中对候选选项打分,返回概率和置信度分数,适合分类、路由和评分标准打分等封闭集决策。
Gemini Decisions API 支持哪些决策类型?
支持三种类型:noul(是/否概率,可选 true 和 false 标准)、choice(2 到 255 个选项,返回胜出项及所有候选的归一化概率)和 score(从 0 开始的有序评分标准,返回连续加权分数和各等级概率)。
Gemini Decision 1 的价格和速度如何?
Gemini Decision 1 定价为每 100 万输入 token $0.10,输出 token 不计费,端到端延迟为 150–250 毫秒。Google AI Studio 中提供免费 API 层级用于原型设计。
原始资料
工具信息
工具信息有变化? 帮助我们更新
Gemini Decisions API 的评价
正在加载评价…