小鹏后装算力测试的那台车,跑的模型是云端「世界基座模型」蒸馏后的版本,云端基座模

大雨车观察 2025-04-14 21:33:10

小鹏后装算力测试的那台车,跑的模型是云端「世界基座模型」蒸馏后的版本,云端基座模型的参数量是72B,就算只做推理任务,为达到低时延效果,至少也需要4块A100才能跑得起来。[doge][doge]。

放在车端的成本太高了,而且也没有意义,因为很难量产,反而是蒸馏后的版本,跑测试才有价值,为后续图灵上车做前瞻性实验。

所以后装算力的那台车,跑的模型没有72B。 ​​​

0 阅读:0
大雨车观察

大雨车观察

感谢大家的关注