国产AI芯片难道就不行?刚听说某大厂新购10000张卡,H100,用于对某LLM进行训练。就这么一件事儿,隐含着2个不小的事儿。一个是H100显卡本地是禁售的,所以,就不说了。另一个是为什么不买国产算力卡?我之前说因为国产芯片算力不够,基本上是2块当一块用,那按照这个思路2:1也没问题啊,量大价格上也会有一点点优势,干嘛还要费那么大劲去搞H100呢? 其实,做推理的话,还真是可以按2:1去玩儿,现在很多的算力中心,都在这么干。 但是,训练不行! 举个例子,某个大模型在价值10亿RMB的硬件上训练一次要60天,这么长的时间你熬过去也就好了,但中途宕机了呢?找原因,找对策,让厂家配合改驱动,再来一次60天,然后又宕了……崩溃的不只是电脑,还有人脑。所以怎么选?谁都知道该怎么选。
一次拆个明白!某司PC主板内部原来大有玄机。手机芯片做电脑,小白粉丝还当宝。
【4评论】【1点赞】