众力资讯网

谷歌Gemini新接口:150毫秒判上千道题

谷歌又发新东西了,这次不是让AI写文章,而是让AI做判断。

11月11日,谷歌发布了Gemini Decisions API,背后的模型叫Gemini Decision 1。它不像平时用的聊天模型那样一个字一个字往外蹦答案,而是直接给选项打分:一次能对同一份材料提最多1000个问题,是非题、选择题、打分题都可以,150到250毫秒就出结果。

这份材料可以很杂:文字、图片、音频、视频、PDF都行,一次最多放25.6万个token。模型看一遍材料,就把1000道题全判了,每道题还附一个0到1的置信度分数,拿不准的可以转给人工。

为什么要专门做一个只会判题的模型?因为很多地方根本不需要AI写一段话,只需要一个明确的答案:这张图有没有问题、这笔单子走哪条流程、这个请求该交给哪个模型。以前的做法是让生成式模型先写出答案,再从文字里把结论抠出来,又慢又容易出错。现在直接打分,等于跳过了写答案这一步。

它到底能用来干什么?谷歌给了几个现成的例子:帮智能体选该调哪个工具、检查内容合不合规、把用户问题分流到合适的模型、给内容打分。谷歌自家已经在用了:Gemini Notebook用它做实时分流,日常问题延迟最多能降40%;设计工具Stitch用它几秒钟生成产品流程图;连选哪个emoji表情都能交给它。

速度和价格是这次的卖点。谷歌称,模型本身的计算时间中位数只有50到100毫秒,端到端150到250毫秒,而且问题从1道加到100道,延迟几乎不变。价格是每百万输入token 0.1美元,输出不收费,在Google AI Studio里还有免费档可以先试。

当然,这些数字都是谷歌自己的测试结果,实测是在1.6万token以内的输入上跑出来的。材料越长、问题越多,速度能不能稳住,还得看实际用起来的表现。

一句话:谷歌这次没让AI说更多话,而是让它更快地做决定。

本文仅为公开资讯整理,不构成投资建议。