马斯克 xAI 获 60 亿美元融资,要造一个“超级算力工厂”

来源:爱范儿· 2024-05-28 08:29:11

就在刚刚, xAI 官宣拿到了 60 亿美元的 B 轮融资,其估值也一跃达到约 180 亿美元。 

本轮融资的主要投资者包括特斯拉和 SpaceX 的首批投资者安东尼奥·格拉西亚斯(Antonio Gracias)领导的 Valor Equity Partners、迪拜投资公司 Vy Capital、美国私人风投 Andreessen Horowitz、Sequoia Capital、风投公司 Fidelity Management & Research Company,以及沙特王国控股公司 Kingdom Holding 等。 

xAI 目前最出名的产品是聊天机器人 Grok。自 2023 年 11 月 Grok 正式发布到现在,其一直在追赶并尝试超过 OpenAI 的步伐。 

在过去一年的时间里,Grok 的发展可谓是突飞猛进。今年三月,马斯克宣布开源 3140 亿参数的混合专家模型 Grok-1;三月底,xAI 推出 128k 长文本 Grok-1.5;到了四月,xAI 又推出首款多模态大模型 Grok-1.5V。 

目前 xAI 使用了两万个 GPU 来训练 Grok 2.0。最新版本的 Grok 可以处理文字、图表和识别现实世界中的物体,未来的 Grok 模型还可以识别音频和视频。 

马斯克还曾公开表示,xAI 将会使用多达 10 万个 GPU 来训练和运行其下一版本的 Grok。 

01

根据 The Information 的最新报道,马斯克于五月在向投资者做演示时透露,xAI 计划建造一个「超级算力工厂」(Gigafactory of Compute),为 Grok 的下一个版本提供算力支持。 

xAI 新的「超级算力工厂」本质上是一个超级计算机,和 Meta 为训练 AI 模型而构建的 GPU 集群类似。 

集群是指单个数据中心内通过线缆连接的众多服务器芯片,以便它们能够高效的方式同时运行复杂计算。一般而言,拥有芯片数量更多、计算能力更强的集群,就意味着可以带来更为强大的 AI。 

xAI 计划为「超级算力工厂」连接 10 万块 H100 GPU,并且可能会与甲骨文进行合作。 

在本月中旬时有消息称, xAI 在与甲骨文高管讨论云服务器的相关问题,xAI 计划在未来几年内花费 100 亿美元租用甲骨文的服务器。 

目前,xAI 已经从甲骨文租用了大约 1.6 万台 H100 芯片服务器,也成为了甲骨文最大的 GPU 客户。 

02

除了算力外,另一个决定 AI 数据中心位置的重要因素是电力供应。据计算,拥有 10 万个 GPU 的数据中心可能需要 100 兆瓦的专用电力。 

xAI 的办公室位于旧金山湾区,但在新的「超级算力工厂」选址上也会考虑电力这一重要因素,未来可能还需要和政府进行进一步谈判。 

马斯克向投资者表示,xAI 现阶段仍然落后于竞争对手。有消息称,到今年年底或明年年初,OpenAI 及微软可能会拥有马斯克所设想规模的集群。 

OpenAI 和微软还正在讨论研发一台价值 1000 亿美元的超级计算机,包含几百万个英伟达的 GPU,其规模将是 xAI 的数倍。 

今年三月,在英伟达的新闻稿中,马斯克就曾公开喊话称英伟达的人工智能硬件是「最好的」。 

马斯克还在四月份的投资者的电话会议上表示,特斯拉拥有 3.5 万台 Nvidia H100 来训练其自动驾驶,并计划在今年年底前将数量增加一倍以上。 

英伟达的 CFO Colette Kress 已将 xAI 列入客户名单,未来 xAI 将与 OpenAI、亚马逊、谷歌等公司一起,优先使用英伟达的下一代旗舰生成式 AI 架构 Blackwell。 

03

虽然「算力超级工厂」正在排队抢购英伟达的芯片,但 xAI 依然还在开发自家的 Dojo 超算。 

在 2022 年的特斯拉 AI Day 上,其展示了自研的 Dojo 计算平台。Dojo 内部由一个个「训练瓦片」(Training Tile)构成,每个「瓦片」内含 25 块 D1 芯片,这 25 块芯片最终汇聚成 54P 算力和 13.4TB/S 的对分带宽。 

Dojo 还能以机柜的形式呈现。在强大的硬件堆叠之下,一个 Dojo 机柜就能提供 1.1E 的算力、13TB 的高带宽内存,以及 1.3TB 的高速内存。4 台 Dojo 就能提供相当于 72 个 GPU 机架的算力。 

但是在现阶段,由于 Dojo 的稳定性和产量还没有得到保证,所以 xAI 还是只能选择英伟达的 GPU 来训练 AI。 

xAI 新获得的 B 轮融资,在一定程度上帮助其解决了财务负担。但马斯克自己也曾承认,如果要在 AI 赛道拥有竞争力,那么每年至少要花几十亿美元。 

无论是给人脑植入微芯片的 Neuralink ,做类人机器人的 Optimus, 还是智能的 Grok AI 助手,马斯克这些积极推进的项目都隐约指向一个终极目标:通用人工智能(AGI)。 

xAI 还有很长的路要走,并且在努力成为规则改变者。不过,现在看来,英伟达可能才是目前最大的赢家。 


[免责声明]如需转载请注明原创来源;本站部分文章和图片来源网络编辑,如存在版权问题请发送邮件至398879136@qq.com,我们会在3个工作日内处理。非原创标注的文章,观点仅代表作者本人,不代表本站立场。