出品|虎嗅科技组

　　作家|陈伊凡

　　剪辑|苗正卿

　　头图|视觉中国

　　在 AI 芯片范围，英伟达凭借弘远的试验芯片性能紧紧占据市集霸主地位，短期内难逢对手。策划词，跟着 AI 推理市集的爆发式增长，这块利润惊东说念主的 “蛋糕” 迷惑了浩繁科技巨头与初创公司入局。

　　Rivos是其中一个。8月13日，这家位于好意思国加州的初创公司被曝正在寻求一笔4亿好意思元到5亿好意思元的融资。如果这笔融资敲定，那么Rivos自其2021年开荒以来，融资总金额将朝上8.7亿好意思元，亦然迄今遏抑尚未大范围量产，却取得最大融资额的芯片初创公司之一。而这家芯片公司的背后投资者之一，是英特尔首席实施官陈立武。

　　这些初创公司和科技巨头，为何采用从推理侧狙击英伟达？它们又怎样凭借各别化工夫与成本上风撕开把持缺口？

　　在东说念主工智能的天下里，试验与推理犹如驱动行业发展的双引擎，共同塑造着工夫演进与市集竞争的面孔。

　　试验，堪称 AI 系统的 “发蒙教师” 阶段。它如同汲引一个懵懂孩童，通过海量数据投喂与高强度的算法试验，让 AI 模子从一无所知成长为概况应付复杂任务的 “智能体”。这依然由不仅成本崇高，时时需要弘远的算力撑握与多量资金干涉。这个经由耗时漫长，一次齐全的试验周期可能长达数月致使数年。更要道的是，它具有显著的一次性特征，每一次试验齐是全新的探索，难以复用。

　　而推理，则是 AI 工夫的 “实战运用” 才略。当 AI 模子完成试验、集结了敷裕的常识后，推理便认真将这些常识转机为实质坐蓐力，用于惩办实验天下中的种种问题。

　　在生成式 AI 时间，工夫架构迎来紧要变革。以 Transformer 为代表的AI架构，让基础模子试验趋向踏实和固化。就像搭建好一座坚固的大厦，后续只需进行局部修缮与优化，无需频奋发建，极大裁减了重叠试验的成本。在这种情况下，推理成为握续创造价值的要道，如同永约束歇的坐蓐线，不时调用模子才调，知足不同的场景和管事。

　　从买卖视角看，试验阶段如同高风险的 “成本赌局”。多量的研发干涉与漫长的报酬周期，使得唯有少数科技巨头具备入场阅历，且干涉产出比充满不细目性。

　　而推理阶段则白衣苍狗，成为 AI 产业的 “现款印钞机”。广为东说念主知的 AI 运用，无一不是通过向用户收取推理管事费终了盈利。

　　凭据第三方机构Verified Market Research的数据，AI推理芯片市集正在经历爆发式增长，2023年市集范围为158亿好意思元，预测到2030年范围将达到906亿好意思元。

　　市集需求与买卖收入在此酿成良性轮回，推理需求越隆盛，企业营收越高，进而迷惑更多资源干涉，鞭策工夫迭代升级。这也不难连续，为何英伟达数据中心 40% 的收入齐源自推理业务。

　　推理成本的大幅下落是市集增长的最主要驱能源之一，凭据斯坦福大学2025年AI指数求教，在短短18个月内，AI推理成本从每百万token 20好意思元暴跌至0.07好意思元，下落了280倍。硬件层面，企业AI硬件成本每年下落30%，能源后果每年提升40%。

　　算法优化工夫如量化、寥落化和蒸馏等显赫裁减了模子的野心复杂度和内存需求。有资深投资东说念主就曾向虎嗅暗示，当今灵验的互联网数据存量已经被使用得差未几了，它的更新是有限的，最终的增长折服是推理，推理是要把试验好的模子运用到不同的场景。再加上MOE（巨匠搀和模子架构）出现，关于新的信息，只需要局部试验。是以最终爆发的市集折服是推理，推理是要把试验好的模子运用到不同的场景。

　　摩根士丹利近期发布的一份深度求教，通过构建缜密的财务模子，揭示AI推理工场的惊东说念主利润，将 AI 推理工场的盈利密码层层解开。

　　以 100 兆瓦电力阔绰为标尺，涵盖基建、硬件与运营的全成本核算袒露，无论遴选哪家巨头的芯片决策，AI 推理工场的平均利润率竟深广冲破 50%。其中，英伟达 GB200 以 77.6% 的 “恐怖” 利润率笑傲群雄，尽管其搭载 72颗GB200芯片和NVL72系统售价高达300万好意思元，但超高的利润报酬，仍让科技巨头们“眼红”。

　　“生成式AI时间，唯有英伟达赚到钱了。”一位算法东说念主士告诉虎嗅。

　　推理，是一份不错测算得出来的生意。当试验端已被英伟达铁壁铜墙紧紧稳住，推理，反而具备了冲破英伟达的可能性。推理对生态和性能的条款莫得试验苛刻，要点是性价比，也即是成本低，要道的是推理的暴利。

　　“寰宇苦英伟达已久。”主要来自对英伟达CUDA生态的依赖，但推理关于CUDA生态系统的依赖经常比试验小一些。原因是，部署天真性，因为推理阶段不错使用更种种化的硬件和软件平台，包括CPU、边缘开荒、WebGPU等，而不一定需要英伟达的CUDA环境，另外，试验经由需要多量的矩阵运算、梯度野心和反向传播，这些操作在CUDA上有高度优化的终了；而推理只需要前向传播，野心量相对较小。

　　因此，科技巨头采用在推理端迟缓浸透英伟达雄霸的市集。

　　比如说，凭据The Information报说念，为了减少对英伟达的依赖，AWS向其客户倾销租用自研推理芯片——Trainium提供支握的管事器，并提供了25%的扣头，这个管事器提供的野心才调与英伟达的H100芯片极端。

　　虎嗅从硅谷科技公司东说念主士、AWS的客户处获知，目下这款管事还莫得在AWS的客户中平凡推行，主如果针对Anthropic，2023年亚马逊布告向这家东说念主工智能初创公司投资40亿好意思元并取得部分股权。Anthropic发布Claude系列模子，使其踏进寰球头部泉源模子公司行列。

　　本年6月，OpenAI也开动通过租用谷歌的TPU，裁减推理野心的成本以及在推理侧对英伟达的依赖。

　　尽管，业内东说念主士暗示这并不是一蹴而就的经由，致使现阶段这个举动从外界看来仅仅“隔靴抓痒”，生态依然是最大的问题，这波及背后一悉数这个词软件栈的适配，但关于这些科技巨头而言，这确乎不得不开行为念的一件事——没东说念主但愿我方的钱齐被英伟达挣了。

　　在 AI 推理市集的利润盛宴中，科技巨头的博弈仅仅冰山一角，一众初创公司更是蠢蠢欲动，试图分一杯羹。

　　跟着东说念主工智能推理迈入高等学习和决策阶段，对算力的需求呈现出多元化、缜密化的特色，通用 GPU 的天真性上风不再是唯独采用，新兴的芯片初创公司独辟路子，聚焦 AI 专用芯片（ASIC）的研发。相较于通用 GPU，ASIC 以更低的成本终了高效运算，尽管运用场景相对单一，但其在特定推理任务中的超卓性能，成为初创公司撬动市集的支点。

　　在这场初创势力的解围战中，Rivos 无疑是备受瞩见解 “黑马”。从戴尔、台积电到英特尔、联发科，浩繁行业巨头纷纷为其注资。据The Information征引知情东说念主士的话，Rivos正在开发软件，该软件不错将英伟达的CUDA软件代码，翻译成在Rivos的讲话，在其芯片上高效运转。这意味着其芯片可无缝连续英伟达生态的软件资源，极大裁减用户迁徙成本。

　　除了Rivos，另一家英伟达的挑战者Groq也在筹集资金。

　　虎嗅凭据公开信息以及The Information上公布的东说念主工智能芯片初创公司的名单，25家英伟达的挑战者，一共从投资者那处筹集了朝上70亿好意思元的资金，总估值达到290亿好意思元。

　　初创芯片公司Groq由前谷歌TPU团队成员开荒，开发了独到的讲话处理单位（Language Processing Unit）架构，这是其最大的工夫各别化上风，有益针对AI推理任务进行了优化，堪称能提供“天下最快推理”性能。Groq提供了远低于传统GPU的token处理成本的惩办决策，这使其在推理市集具有显著的经济上风。如今，Groq已从贝莱德、念念科、三星等处累计筹集朝上10亿好意思元，并与沙特阿拉伯达成了价值15亿好意思元的芯片互助契约，在英伟达浸透率还不算高的中东市集开动拓展我方的芯片生意。

　　Groq的CEO在一次播客采访中也暗示，英伟达不错制造他们本来要制造的每一个GPU，并将其用于高利润的试验业务，而他们则不错接办低利润但高体量的推理业务。

　　还有的场所是英伟达的视野尚未看到的微细边缘——比如一些边缘侧，袖珍分布的推理需求正悄然爆发。举例从智能家居开荒到智能衣裳产物，AI 智能硬件的平凡运用催生海量边缘推理场景。

　　此外，一些新式算法架构以及与之相集合所开发的芯片正在出生。在曩昔几年里，英伟达是“算力越大越好”（Scaling Law）叙事下，最大的受益者，其依靠这套暴力好意思学，兜销其GPU。

　　仅仅Scaling Law到底是不是果然通往通用东说念主工智能的说念路？并莫得定论，起码Meta首席东说念主工智能科学家杨立昆（Yann LeCun），并不这样合计，“咱们弗成使用像 ChatGPT 或 GPT4这样的工夫来试验机器东说念主算帐桌子或者填满洗碗机，即使这对一个孩子来说是一件微不及说念的任务，咱们照旧作念不到。”

　　关于在生成式AI时间处于完全把持地位的英伟达而言，GPU的“越多算力越好”的故事还能说多久，不好说，科技界历久在演出颠覆与被颠覆的故事。

海量资讯、精确解读，尽在新浪财经APP

牵累剪辑：杨赐 火星电竞游戏第一品牌