新闻
Gemini Decisions API 一次過答 1,000 條決策問題 每百萬輸入 token 收 0.10 美元
1 分钟阅读
Google 於 11 月 11 日推出 Gemini Decisions API,由新模型 Gemini Decision 1(gemini-decision-1)驅動,經 Gemini API 及 Google AI Studio 提供。據 Google 官方網誌 ,這個端點主打快速、可校準的多模態決策:同一輸入最多同時回答 1,000 條獨立問題,端到端延遲 150–250 ms,每百萬輸入 token 收 0.10 美元。 不逐 token 生成 一次為選項打分 Decisions API 不逐個 token 寫出答案文字,而是在一次 forward pass 中為候選選項打分,回傳各選項機率及 0 至 1 的信心分數,程式可藉此把模糊個案轉去 fallback 或人手審核。用途包括工具選擇、政策檢查、模型路由及內容評分,但只限封閉集(closed-set)決策,不是通用生成模型。 256K tokens 輸入 三種題型可混用 每次請求可帶一個多模態輸入(文字、圖片、音訊、影片、PDF),上限 256K tokens,並可提出最多 1,000 條獨立問題;圖片與影片可調解析度控制 token 成本。三種題型可在同一請求內混用: 是非題(Yes/No):估算條件成立的機率,可選填 true 或 false 的條件描述。 選擇題(Multiple Choice):2 至 255 個選項,回傳勝出選項及每個候選的正規化機率。 評分(Ordered Rubric):按由 0 起的有序量表評分,回傳連續加權分數及各級機率。 150–250 ms 延遲 輸出免費的定價 延遲方面,模