马斯克:激活十万颗H100集群,规模数月后倍增

逢纪说科技 2024-09-04 20:04:54

知名创业家马斯克(Elon Musk)宣布,集结十万颗H100 GPU的“Colossus”训练集群正式上线。

马斯克3日通过社交平台X指出,xAI团队“Colossus”上周末成功激活,项目从开始到结束仅花122天。

This weekend, the@xAIteam brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.

Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.

Excellent…

— Elon Musk (@elonmusk)September 2, 2024

马斯克表示,Colossus是全世界最强大AI训练系统,规模接下来几个月内倍增至20万颗(包括五万颗H200)。感谢xAI团队、英伟达及许多伙伴供应商的出色工作。

TweakTown报道,xAI旗舰大型语言模型(LLM)“Grok 2”是以15,000颗AI GPU训练,如今加上Colossus十万颗AI GPU,次世代LLM表现有望更优秀。

(首图来源:Flickr/Steve JurvetsonCC BY 2.0)

1 阅读:27

逢纪说科技

简介:感谢大家的关注