小鹏后装算力测试的那台车,跑的模型是云端「世界基座模型」蒸馏后的版本,云端基座模型的参数量是72B,就算只做推理任务,为达到低时延效果,至少也需要4块A100才能跑得起来。[吐舌][吐舌]。 放在车端的成本太高了,而且也没有意义,因为很难量产,反而是蒸馏后的版本,跑测试才有价值,为后续图灵上车做前瞻性实验。 所以后装算力的那台车,跑的模型没有72B。
小鹏G6的销量没有P7+好,事实证明性价比!2025年3月,小鹏汽车上演“兄
【1评论】【1点赞】
小鹏后装算力测试的那台车,跑的模型是云端「世界基座模型」蒸馏后的版本,云端基座模型的参数量是72B,就算只做推理任务,为达到低时延效果,至少也需要4块A100才能跑得起来。[吐舌][吐舌]。 放在车端的成本太高了,而且也没有意义,因为很难量产,反而是蒸馏后的版本,跑测试才有价值,为后续图灵上车做前瞻性实验。 所以后装算力的那台车,跑的模型没有72B。
猜你喜欢
【1评论】【1点赞】
【6评论】【4点赞】
【196评论】【42点赞】
【2评论】【3点赞】
【53评论】【38点赞】
【5评论】【1点赞】
【3评论】【3点赞】
作者最新文章
热门分类
汽车TOP
汽车最新文章