LPU芯片概念很有可能成为继DeepSeek概念之后的又一热点。就拿Groq公司

智哲谈商业 2025-02-06 08:46:34

LPU芯片概念很有可能成为继DeepSeek概念之后的又一热点。就拿Groq公司的LPU芯片来说,在与Deepseek结合时,其语言大模型算力达到英伟达GPU算力的10倍。2024年Groq公布的LPU实测数据更是惊人,在Llama 2 - 70B推理任务中,LPU系统每秒近300 token吞吐量,是英伟达H100的10倍性能,单位推理成本降80%。这意味着在AI推理市场,LPU有巨大优势。它计算能力强,工作原理独特,性能优势明显。从这些数据和事实来看,LPU芯片概念热度很可能会飙升。

0 阅读:1
智哲谈商业

智哲谈商业

感谢大家的关注