用 Agent 做任务的时候,有一种成本很容易被忽略掉,那就是等待。复杂长任务,用户是可以接受耗时冗长的,但我们工作和生活里的复杂长任务并不多,很多事儿都是中等和简单这么个程度,那么我们要求快一点就是个不过分的需求了。
我的墨问里现在有很多 Bot,查资料、读笔记、调用工具、写代码等等,如果每一步都多等等,几轮下来,时间全都浪费掉了。所以说模型再聪明,也得赶得上人的工作节奏。
上周我开始内测腾讯的混元 Hy4 flash,把它接入了墨问 App,新建了一个混元 Bot,重度用了几天,感觉这次混元的模型兼顾了稳准快,可以称之为日常工作的极致性价比模型。
我让混元 Bot 帮助我汇总二十四小时内的 CatReader 信息源更新,驱动 Herdr 工作区里的 Agent 编程,做代码 review……Hy4 flash 都可以又快又好地完成任务。
这个模型的响应速度极佳,最大的特点是不说废话,干巴利索脆。问了腾讯的同学怎么做到的,说 Hy4 flash 通过强化学习,将端到端任务输出长度降低了 50%。这个优化的价值,在于减少完成任务所需的生成量。同时,解码速度超过每秒 150 Token,让生成过程本身也更快。少生成、快生成,两头一起省时间,用户体感自然强烈。
同时,这次混元 Hy4 flash 的价格也很香:每百万 Token,未命中缓存的输入 0.5 元,输出 2 元,缓存命中输入 0.02 元。
打开 workbuddy 做了几个 PPT 和表格计算的场景,也很快,看技术报告,Hy4 flash 单任务成本大概是 Hy4 的 1/20,表现很亮眼。
因为之前使用过 Hy4 preview,我的体感是 Hy4 flash 的综合效果优于 Hy4 preview;长程软件工程这类复杂任务,我还是推荐用上限更高的 Hy4。日常工作 Hy4 flash 足够,我用来做 Bot 的驱动模型,最为合适不过。
从 Hy4 preview 开始,我感觉腾讯混元开始发力了,就目前的态势,Hy4 已经跻身开源最强模型的序列,这次推出 Hy4 flash,显然是把竞争推到了日常工作和极致性价比的层面,在模型能力和商业化两个层面,混元都已经来到极具竞争力的位置。
模型多聪明,决定了上限。能力、速度和价格的均衡,决定了这款模型能走进多少人的日常。
#Hy4 flash


