冲破英伟达算力霸权！科技巨头搞了个“新安卓”

过去一年多，硅谷掀起的生成式 AI 反派席卷环球，并愈演愈烈。而在这场反派中有两条十分显著的主线： 一是基础技术的退化，以 GPT、Gemini 为代表的大模型继续向着 AGI（通用人工智能）迭代； 二是现象级运行的涌现，生成式 AI 在不同畛域、不同场景下的运行狂潮在逐渐扭转人类的生存和上班形式，比如雷科技尤其关注的AI配件畛域，就产生了AI手机、AI PC、AI电视、AI家电、AI清洁等新运行。 在两条主线下，还有一条关于算力的「暗线」。 对 AI 的开展来说，算力充足曾经不是一天两天的疑问，时至今天各大公司都还在继续抢购 GPU，更确切地说，是英伟达的上流 GPU： 假设说《沙丘》是「得香料者得天下」，那 AI 行业就是「得英伟达 GPU 者得天下」。 图/英伟达 这也让整个行业关于英伟达 GPU 又爱又恨，一方面是基于 CUDA 平台的英伟达上流 GPU 可以便捷、高效地启动人工智能训练，另一方面是一切人都过于依赖英伟达这一家公司。 01 CUDA是英伟达AI的基石 关于英伟达 GPU 成功要素的剖析曾经很多了，其外围关键还是英伟达 GPU 自身的高功能（包含互连功能），加上 CUDA 平台带来的软配件协同效应。英伟达在配件自身上的长处并不难跨越，疑问关键在于软件，在于 CUDA 平台。 在前段期间的GTC 2024揭幕演讲上，老黄也回忆了英伟达的开展史。 2014年，黄仁勋初次强调机器学习的关键性，过后AlphaGo尚未打败李世石，深度学习并未引发环球级关注。不过过后英伟达已提出CUDA（通用计算平台）的概念，在许多人还在把英伟达当作「游戏显卡」的制作商时，其走在了 AI 改革前沿。 不过最后，CUDA的运行场景关键是迷信计算，就是相似于气象模拟、物理模拟、动物消息学等专业钻研，运行场景很有价值，但却狭窄。正由于此，英伟达的CUDA不时没有关上市场，带给英伟达的报答无法与对应的巨量研发投入婚配。黄仁勋每年都须要向董事会解释，为什么英伟达要坚持做CUDA？ 其实过后老黄也不知道，英伟达的CUDA会在未来几年，先后迎来区块链“挖矿”、AI大模型计算等计算场景，实在泼天贫贱。 （图源：英伟达） 短短两年期间，英伟达经过H100、H200 芯片，缔造了万亿AI帝国，市值已逾越亚马逊等传统豪强，依照这样的势头，在可见的未来，逾越苹果、微软成为环球头等巨头也不是没有或者。 如今，英伟达的“卡”供不应求，不只是字节、百度等中国科技巨头在抢着囤卡以应答极其状况，硅谷科技巨头如微软、Meta，也全都在找老黄买卡。 在被称为AI运行元年的2024，英伟达的CUDA（通用计算平台）正如其名，变得通用起来，从大言语模型、对话式AI、边缘计算等底层技术，到智能座舱、智能驾驶、人形机器人等运行场景，再到AI手机、AI PC、AI家电、AI搜查、AI绘画等运行，以及未来的气象预测、计算光刻与6G网络，AI正无处不在，英伟达的计算也无处不在，成为“通用计算”。 当英伟达的卡以及CUDA平台越来越关键时，其余科技巨头看到了“制霸”危机： 一方面，英伟达的卡多少钱不菲，且领有相对定价权，厂商们囤积GPU卡要给英伟达巨额资金，结果就是：做AI的不必定赚钱（以后简直都不赚钱），英伟达却赚爆了。 另一方面，科技巨头被英伟达卡了脖子。英伟达可以选择最顶尖的卡先给谁，给多少，给不给。此外，英伟达也附丽GPU的计算资源向下层业务拓展，涉足云等业务，与科技巨头构成必定的竞争。 理想上从 2023 年末尾，很多芯片厂商和大模型厂商都看法到了这些疑问，纷繁宿愿经过另建一套软件平台对立英伟达的 CUDA。不能说一切尝试都失败了，只能说目前还没有产生真正的应战者。 如今，一个新联盟和开源平台，或者会彻底扭转英伟达 CUDA 一家独大的局面——似乎现在谷歌振臂高呼组建的OHA联盟以及开源的安卓对立苹果普通。因缘际会的是，在这一轮冲破CUDA霸权的抗争中，谷歌依然表演了至关关键的角色，安卓营垒的高通、ARM们也在施展各自的关键作用。 日光之下，无新事。 02 巨头组建联盟镇压CUDA 「整个行业都宿愿无能掉 CUDA，包含谷歌、OpenAI 等公司都在千方百计让人工智能训练愈加放开。咱们以为 CUDA 的护城河既浅又窄。」在去年年底的一场优惠上，英特尔 CEO 帕特·基辛格（Pat Gelsinger）语出惊人地指出了关于英伟达 CUDA 平台的看法。 但即使基辛格以为 CUDA 的护城河「既窄又浅」，他也明白应战在人工智能训练上应战英伟达，绝非易事。 依据路透社报道，Linux 基金会联结英特尔、谷歌、高通、ARM 以及三星等公司成立了一致减速基金会（UXL），以英特尔的 oneAPI 为终点，正在开发一套开源软件套件，准许人工智能开发者在任何 AI 芯片上运转他们的代码。 图/ UXL 这里须要便捷引见下，oneAPI 是英特尔的一致编程模型和软件开发框架，可以让开发者无需对代码启动严重修正，就能借助 oneAPI 成功跨配件架构（包含英特尔的 CPU、GPU 和 FPGA）的程序开发。 便捷来说，UXL 就是在 oneAPI 的基础上更进一步，要成功更宽泛的跨架构跨平台支持，解除芯片配件与软件的强绑定相关。 而汇合了芯片厂商、大模型厂商以及晶圆代工厂的 UXL，无疑是想取代英伟达 CUDA 平台，成为环球人工智能开发者的首选开发平台。高通人工智能和机器学习主管 Vinesh Sukumar 就明白示意： 「咱们实践上是在向开发者展现如何从英伟达平台迁徙进去。」 甚至，UXL 最终也将支持英伟达的配件和代码。 而除了最后介入的开创成员，UXL 还吸引了包含亚马逊 AWS、微软 Azure 以及多家芯片厂商。同时依据规划，UXL 估量在往年上半年确定技术规范，在年底前将技术细节完善成熟。 至于 UXL 能不能成功代替掉 CUDA，成为环球人工智能开发者的首选平台，显然还须要一系列的证明，毕竟逾越 CUDA： 真的很难。 03 对立CUDA，究竟难在哪里？ 首先咱们须要明白，CUDA 既是一种编程言语，也是一种编译器。 作为编程言语，CUDA 是开发者经过 CUDA 与底层配件（GPU）沟通、调用算力的一种形式，新建一套新的编程言语并不难。作为编译器，CUDA 无疑有很高的功能，这象征着开发者可以经过 CUDA 在 GPU 上更高效地口头程序，用更容易了解的话说： CUDA 可以高效地利用 GPU 的峰值算力。 CUDA，图/英伟达 思考到当天人工智能训练关于大算力、高功能的谋求，也无怪乎开发者关于 CUDA 的偏爱。 但实践上英伟达在这两个层面上绝非天下无敌，尤其是 OpenAI 开源的 Triton，不只能在英伟达的 GPU 上成功凑近 CUDA 的口头效率，还在兼并 AMD ROCm（对标 CUDA）等平台的代码，兼容更多的 GPU。 CUDA 难以被撼动的关键在于，它还是一种生态。 去年台北电脑展上，老黄泄漏有 400 万开发者正在经常使用 CUDA 计算平台。而且在过去十几年间（CUDA 推出于 2007 年），CUDA 曾经积攒了少量的高功能程序库以及框架代码。这也是为什么虽然连 OpenAI 都吐槽用 CUDA 为 GPU 编程的难度，但更多开发者还是基于 CUDA，而不是 Triton 启动开发。 另一方面，英伟达的软配件协同设计也让这种长处愈加牢无法破。 要知道，Triton 可以兼容英伟达的 GPU，其余 GPU 也可以兼容 CUDA，甚至在效率上青出于蓝也并非无法能。但软件适配配件须要期间，尤其是在 GPU 上须要更长的期间。 这象征着英伟达一旦颁布新的 GPU 和 CUDA 版本，不论是兼容 CUDA 还是兼容英伟达的 GPU，就须要从新追逐英伟达的脚步。 （老黄最新颁布的 Blackwell，图/英伟达） 所以某种水平上，能打败英伟达的只要驳回软配件协同设计的战略，同时领有弱小的芯片才干和软件才干。 04 用“安卓形式”，冲破英伟达算力霸权 谷歌领有自己的 TPU、XLA 计算平台，还有自己的大模型和一系列算力「进口」。但谷歌这套并不外卖，所以包含 Authropic（Claude 母公司）、Midjourney 都是经过谷歌云经常使用这一套算力处置方案，而没有选用购置英伟达的 GPU。 从这角度来看，UXL 虽然汇集了从晶圆代工厂到芯片厂商，再到云计算和大模型厂商，涵盖了 AI 芯片的关键高低游，但真正的应战还在于不同成员之间的协同，这也是 UXL 能不能成功的关键。 假设没有足够的利益捆绑，每一个“联盟”都难成气象，汇集得多高调，松散就有多迅猛。安卓生态能成功的关键在于，系统平台、半导体、配件、开发者等等介入者能各取所需，一同将蛋糕做大。UXL 能否能构成雷同的正循环效应？当下，咱们不知道答案。 年终，OpenAI Sam Altman 语不惊人死不休，曝出方案筹集 7 万亿美元处置 AI 面对的算力疑问。虽然这个数字惊掉了一切人的下巴，但也再一次性地说明了，以 OpenAI 为代表的人工智能行业关于算力的极度渴求——在微软支持下，OpenAI也在规划自有芯片体系。 总而言之，英伟达不能满足一切人，一切人也不满足于只要一家英伟达。换句话说，不论 UXL 能不能成功，谷歌会不会扭转战略，一切人都会继续应战英伟达： 直到冲破算力霸权。 检查原图 518K 揭发