晚间Deepseek放大招!
科技界又一个好消息传来……
消息上:
DeepSeek完成500亿元融资后,首次开源推理加速成果:
其发布DSpark推测解码框架及两个适配模型(非新模型,加装加速模块)。
该技术采用半自回归架构,结合并行与轻量串行模块提升草稿质量。
部署后,单用户生成速度提升60%-85%,减少算力浪费,并在严格时延下优化了服务系统的性能边界。
DSpark推测解码框架及两个适配模型的横空出世,大幅缩减算力同时还能把生成速度提升60%-85%。
看来未来的API降价或免费额度增多真的要成为可能了。所以短期对于算力来说必然是利空的,但是从长期角度来说,AI应用全面爆发,必然也会带动算力量大提升。
Deepseek这次技术再一次突破,在开源高效的推理方案里会直接拉低了部署大模型的门槛。这必然会倒逼闭源厂商降本,加速AI应用全面爆发。
随着Deepseek这个技术性突破,AI大模型的降价提速已经成为必然了,对于AI应用端来说是重大利好,价值重估只是时间问题了。
所以此消息必然是有利于整个AI落地进程大幅加速。但同时短期是利空算力的,看看下周市场资金如何决策科技板块了。
浪姐总决赛
