如果说deepseek是给英伟达的当头一棒，那清华团队的ktransformer会是对英伟达的致命一击？ 现在这个东西还没发酵起来，但据说能在deepseek的基础上再把推理成本降低10倍！现在要本地部署满血版deepseek，需要8张A100起步，有些初创公司都玩不起，但用上ktransformer只需要一张4090显卡。 怎么做到的，原理是融合推理和全系统协调。本质上就是把【GPU】的一部分运算挪到【CPU+内存】上。 这样利好的方向有： 1、内存条，将会涨价。因为人人都用得起AI了，本地端一般用DRAM，而不是hbm，而DRAM是我们强项。（兆易、深科技、北京君正） 2、ai智能体，推理成本下降导致智能体用的人更多。（鼎捷数智、汉得信息）
评论列表
猜你喜欢
【18评论】【91点赞】
【57评论】【60点赞】
【3评论】【6点赞】
【51评论】【16点赞】
【163评论】【127点赞】
【9评论】【7点赞】
作者最新文章
热门分类
财经TOP
财经最新文章
武寒旭
然后用十六块i9？
娇子牌香烟
变通思想才是科技创新的智慧研发思想！！这句话适合每一个科技创新的中国企业！《爱拼才会赢》+变通思想等于超越！！
金戋
这不就是矿机算法嘛，n年前那帮挖比特币的就这么干的。
灰太狼
口气清新
用户10xxx36
赶紧囤内存条
文高 回复 02-28 09:06
囤毛线，中国可以自己生产的东西都是白菜价，你还以为是老外。
用户50xxx29
数学的优选法肯定发挥了用场