众力资讯网

中科曙光这波操作,把集中式存储拉回了AI推理的C位! 这次CCF大会上,中科曙

中科曙光这波操作,把集中式存储拉回了AI推理的C位!

这次CCF大会上,中科曙光带来了FN Neo。看到“面向AI推理的集中式全闪存储”,我还挺感兴趣。以前聊大模型,大家总先聊GPU够不够、网络快不快,存储很少站到前面。可现在智能体越来越多,上下文越跑越长,KV Cache怎么放,确实成了一个绕不开的问题。

FN Neo的思路很好理解:把原来分散在各个计算节点里的KV Cache集中起来,做成整个集群都能用的共享池。这样一来,缓存不用每台机器各存一份,换个节点也能继续复用,GPU自然可以少做一些重复计算。它有点像把集中式存储擅长的“统一管理”,搬到了AI推理里。

参数也比较亮眼,单阵列带宽达到160GB/s,NAS带宽可达70GB/s,并提供亚毫秒级延迟。对长上下文、高并发这些场景来说,快是一方面,延迟稳同样重要。以前觉得集中式存储离AI有点远,这次看完反而觉得,它已经从后台走到前面,开始真正参与推理效率这件事了。AI推理 中科曙光 全闪存储