又双叒叕是快讯!
Groq公司的LPU又一次超越了英伟达的H100 AI处理器!这一次是以颠覆式的“软件定义”理念!抢占了这个市场!
LPU最擅长处理有序串行任务,非常适合大语言模型的特性!在速度上,LPU运行一个大语言模型,比H100快10倍!推理成本只需要H100十分之一!吞吐量达到每秒500个tokens!基于LPU的大模型,比起基于H100的大模型,速度提升了18倍!
这对于英伟达来说,是致命一击!如果LPU继续保持领先,甚至有可能蚕食英伟达的市场份额,赶英伟达出AI处理器的赛道!
又双叒叕是快讯!
Groq公司的LPU又一次超越了英伟达的H100 AI处理器!这一次是以颠覆式的“软件定义”理念!抢占了这个市场!
LPU最擅长处理有序串行任务,非常适合大语言模型的特性!在速度上,LPU运行一个大语言模型,比H100快10倍!推理成本只需要H100十分之一!吞吐量达到每秒500个tokens!基于LPU的大模型,比起基于H100的大模型,速度提升了18倍!
这对于英伟达来说,是致命一击!如果LPU继续保持领先,甚至有可能蚕食英伟达的市场份额,赶英伟达出AI处理器的赛道!
作者最新文章
热门分类
财经TOP
财经最新文章