10月20日,DeepSeek开源推理框架DeepInfer时,公布了一个十分吸引眼球的数字:单个集群每天可以处理155万亿Token,如果按照DeepSeek API的谷时价格计算,平均每GPU小时对应38美元的收入。

这是根据Token处理量和公开API价格折算出的理论计费收入,实际情况要复杂得多。但这个数字依然太有吸引力:如果粗暴按照线性外推,按每天24小时、全年365天计算,一张GPU的年化计费产值超过33万美元。

过去几年,AI行业一直在讨论训练一个前沿模型需要多少钱,英伟达的GPU有多贵,云厂商又投入了多少资金建设数据中心。但这些昂贵的计算设备买回来之后,究竟能够生产多少可以卖钱的智能?抛开眼花缭乱的“金融手段”,企业真能赚到的,又有多少钱?

DeepSeek的38美元,提供了一个难得的观察窗口。在资本市场再次对AI巨额投入的回报提出质疑的时候,产业一线的反馈却很乐观。“业内”和“业外”,产生了巨大的分歧。

一位经营Token中转业务的创业者告诉腾讯科技,最近几个月,中小企业的AI需求正在“全面暴涨”,他能从客户的实际使用情况中感受到这一变化。今年七八月还只有少数公司在尝试的事情,如今同行已经普遍在做。一些原本有数据安全顾虑的企业也开始私有化部署模型。他也在认真考虑“扩产”。

另外一位AI应用领域的创业者态度也十分鲜明:“英伟达的股票,我还是会继续买。”他接触的B端企业正在加快引入Agent,从日常运营到客户服务,越来越多业务开始AI化。

但他也判断,中美AI市场短期内可能经历一个“小低谷”。此前模型突破、生产率提升和AI替代工作的消息不断推高市场预期,当资本市场开始要求AI在真金白银上交出成绩时,企业应用的实际成果可能还没有跟上,市场热情也会随之回落。

这或许正是当下AI产业面临的矛盾:一线需求正在增长,但从应用落地到形成足以支撑巨额算力投入的商业回报,中间还有一段距离。

DeepSeek的计算提供了另一个值得关注的信号,即使按照谷时价格,高度优化的推理系统仍然能够实现相当可观的单位GPU计费产值。

那么,随着推理效率不断提高,如果有足够多的用户持续消耗Token,AI是否已经可以成为一门赚钱的生意?答案可能比想象中乐观,但也更复杂。

DeepSeek在9月10日发布的V4.1 Flash中,已经披露了不少推理效率优化的技术细节。

按照官方技术报告,这款模型拥有5520亿总参数,采用混合专家(MoE)架构和新的Causal Encoder–Decoder设计,处理输入时约激活80亿参数,生成输出时约激活160亿参数。

模型针对长上下文和Agent场景优化了缓存结构。按照论文披露,全局KV Cache占用降低到上一代的约四分之一,长期保存的缓存占用减少到约八分之一。每Token的全局KV Cache约为890字节,支持最高100万Token上下文。

这些优化直接影响长上下文推理的显存占用、数据传输和服务成本。

10月20日开源的DeepInfer,进一步公开了DeepSeek如何将这些技术整合为大规模在线推理服务。

它集成了此前陆续开源的FlashMLA、DeepGEMM、DeepEP、TileKernels等组件,同时引入专家并行、推测解码、异步调度等机制。

图:DeepSeek在线推理系统示意图

DeepSeek在官方部署问答中重点介绍了三项工程原则:适配不同厂商的加速硬件,将Prefill与Decode分开部署,以及尽可能长期保留KV Cache,减少重复计算。

在生产环境中,Prefill可以部署在普通8卡服务器上,而Decode采用64至128卡超节点,通过大规模专家并行提高吞吐量。DeepSeek还提出将KV Cache保留72小时以上,以适应Agent反复调用相同上下文的需求。

这些优化的核心目标,是在满足延迟要求的前提下,让同样数量的GPU服务更多请求。

不过,这次开源并不意味着DeepSeek已经公开完整生产环境中的所有组件。

官方README文档指出,KV Cache系统、视觉编码与Prefill/Decode分离服务编排、跨数据并行副本的负载均衡等,仍需要外部补齐。部分组件与DeepSeek内部基础设施深度耦合,因此尚未完整开源。

DeepInfer目前也主要面向DeepSeek-V4.1 Flash。其他模型如果在MoE专家组织、注意力结构、数值精度或硬件配置上存在较大差异,很难直接照搬。

因此,38美元并不代表任何企业下载DeepInfer、部署一批GPU,就能获得同样的收入表现。DeepSeek也没有完整公开计算这项指标所需的集群硬件构成、成本账单、付费流量比例及收入确认方式。

但它至少说明,在特定模型与硬件条件下,推理工程优化能够显著提高计算设备的潜在计费产值。

低价出售Token,与一张GPU产生较高的计费收入,并不矛盾。

关键在于,一小时内究竟能够处理多少有效Token,以及有多少Token真正可以向客户收费。

如果推理效率已经可以做到如此程度,为什么一些大模型公司仍然需要不断融资,甚至持续亏损?

一个重要原因是,训练前沿模型和出售推理服务,本来就是两笔不同的账。

2026年斯坦福大学《AI Index》引用研究机构Epoch AI的数据,估算了OpenAI和Anthropic在模型研发与推理服务方面的计算支出。

2025年,OpenAI计算支出约163亿美元,其中研发相关计算支出83亿美元,推理支出80亿美元,两者几乎各占一半。

2024年,OpenAI的相应支出分别为40亿美元和18亿美元。也就是说,一年之间,推理计算支出增长了约3.4倍,而研发计算支出增长约一倍。

Anthropic在2025年的计算支出估计为68亿美元,其中研发相关支出41亿美元,推理支出27亿美元。研发仍然占据较大比例。

这些数字说明,前沿模型公司的算力投入结构正在变化。随着商业用户增加,推理已成为越来越重要的成本来源,但研发开支并没有因为推理业务扩张而消失。

一家追逐SOTA的模型公司,需要同时承担持续训练和大规模推理服务的成本。前者包括预训练、后训练、强化学习、数据处理、模型评测及大量实验,后者则需要维持在线服务的算力、容量和稳定性。

Epoch AI特别指出,研发计算支出并不全部用于最后一次正式训练。大量资源实际上消耗在实验、研究和模型迭代过程中。因此,某个模型公开的单次训练成本,不能简单视为一家前沿模型公司的全部研发成本。

图源:Stanford HAI / Epoch AI,2026年

商业化带来的另一层压力,是用户越多,推理成本也可能越高。

《The Information》今年2月报道,OpenAI在2025年的毛利率约为33%,低于2024年的40%,也低于此前46%的预测。Anthropic对2025年毛利率的预期约为40%,虽然较2024年的负毛利状态改善明显,仍比其早先目标低10个百分点。

报道指出,两家公司毛利率低于预期的重要原因之一,是实际推理成本高于原先估计。

这与DeepSeek的38美元看起来形成了矛盾:一边是持续改善的推理效率,另一边却是被推理成本侵蚀的毛利率。

实际上,它们反映的是同一门生意的两个方面。

单位GPU能够生产多少Token,是供给效率;公司需要投入多少GPU,才能满足不同客户的延迟、上下文长度、稳定性和峰值需求,则决定实际经营成本。

即使单位Token成本下降,重度用户增加、任务执行时间延长、模型调用次数上升,也可能使总推理支出迅速增长。尤其在固定月费的产品中,客户支付的价格未必随着Token消耗同步增加。想想每天挖空心思发“重置卡”的Tibo。

图:OpenAI产品与平台负责人Tibo(Thibault Sottiaux)于10月11日在X平台连续发布有关Reset的动态,其中“Day 6 / Reset”获得约290万次浏览。

一家模型公司的推理服务可以拥有正毛利,整个公司却仍然因为持续研发、基础设施和经营投入而亏损。

反过来,如果不承担前沿模型训练,专门经营推理服务,生意的成本结构就完全不同。

AI产业链中已经出现一类与前沿模型实验室不同的公司。

它们不以训练最强的基础模型为核心业务,而是部署DeepSeek、Qwen、Llama等开放权重模型,通过多芯片集群、推理框架、模型优化和调度系统,向开发者与企业销售API调用、专属推理实例或私有化部署服务。

对于这些公司来说,模型本身未必需要从头研发,成本主要来自GPU采购或租赁、机房与电力、网络和存储、推理系统研发、模型适配,以及销售、运维和客户支持。

其中最关键的三个变量,是单位GPU产值、实际付费利用率和综合运营成本。

假设一家推理服务商每GPU小时的完全负担成本为10美元,而它能够以DeepSeek披露的38美元作为满负载计费产值的参考,那么理论上只要实现约26.3%的有效计费产出,便可以覆盖这10美元成本。

如果有效计费产出达到50%,收入相当于每小时19美元,扣除10美元后还剩9美元。

当然,这只是用于说明商业敏感性的假设。实际系统的吞吐量、并发和延迟具有复杂关系,低负载下的收入不一定与满负载表现呈线性变化。10美元也不是DeepSeek披露的真实成本,更不能将计算结果当作其实际毛利率。

但这种测算说明,推理系统效率足够高时,商业回报可能具有较大的空间。问题是,GPU本身并不便宜,购买或者租赁GPU,同样不意味着立即拥有稳定收入。

CoreWeave提供了一个可以对照的真实案例。

2026年第二季度,CoreWeave收入25.75亿美元,同比增长约112%,调整后EBITDA达到15.10亿美元,利润率为59%。

但在美国通用会计准则下,公司当季仍净亏损6.26亿美元。问题出在算力生意高昂的资产和资金成本上。CoreWeave需要投入大量资金采购GPU及配套设备,相关资产随着使用逐年折旧;同时,公司依靠债务融资支持扩张,还要承担高额利息。2026年第二季度,其折旧及摊销费用达到13.93亿美元,净利息支出高达6.4亿美元。

折旧反映的是已经购入的算力设备在使用期间逐步计入的成本,利息是为这些投资融资所付出的代价。即使GPU租赁带来了可观收入,这两项负担仍可能大幅压缩利润。

CoreWeave的财报也说明,算力利用率高、收入增长快,并不意味着经营算力就一定赚钱。

更复杂的是,推理算力并不是一个完全同质化的市场。

DeepSeek能够通过深度优化获得较高单位GPU产值,不意味着普通推理服务商可以用相同的硬件、相同的价格获得同样表现。

因此,推理服务可能是一门具有可观毛利空间的生意,但它并不会自动成为高利润生意。工程能力影响成本下限,客户需求和定价权决定收入上限,而资本成本影响最终能留下多少利润。

此外,推理市场还面临持续降价的压力。

DeepSeek降低单位Token成本之后,也在通过更低的API价格将一部分效率收益传递给用户。其他公司一旦采用更高效的算法和系统,也可能参与价格竞争。

推理效率提升创造的收益,最终未必全部留给卖Token的公司。

从英伟达、台积电、SK海力士,到数据中心和云服务商,AI基础设施投资已经为部分上游企业带来了可观的收入和利润。

但对于经营推理服务的企业来说,设备买回来之后,仍然需要不断寻找客户和任务,才能持续创造收入。

目前,Coding是商业化最清晰的AI应用市场之一,但即使在这个付费意愿较强的领域,盈利也并不容易。

《The Information》披露,Cursor在截至2026年1月的季度中,毛利率一度为-23%;如果将免费用户的推理费用全部计入销售成本,毛利率约为-31%。虽然此后毛利率已经转正,但高昂的模型调用成本,仍是AI应用需要面对的问题。

消费应用的情况更加分化。10月12日,曾经的明星AI陪伴公司Character.AI申请破产保护。根据破产文件及公开报道,公司当时仍拥有约1200万月活用户,2026年8月收入达到530万美元,但每月经营亏损仍有800万至900万美元。

仅2026年前八个月,Character.AI就花费了5610万美元购买算力,占运营费用约45%。即使转向更便宜的GPU和开放权重模型,并削减人员开支,也未能实现盈利。法律诉讼和监管压力同样加剧了公司的困境。

但是,AI原生应用并非无法盈利。Midjourney创始人David Holz在今年3月接受《The Information》采访时表示,公司2023年收入已显著超过2亿美元,此后继续增长,并且保持盈利。

但它也不是所有AI应用的普遍样本。图像生成拥有相对明确的使用场景和付费价值,而全天候运行的个人Agent,可能需要持续调用模型、使用工具和重新规划任务,成本结构更加复杂。

从整体市场看,需求实际上正在快速增长。

Menlo Ventures在2026年9月发布的《State of Consumer AI》报告估计,全球消费者AI支出已达到400亿美元,是2025年120亿美元的三倍多。

但值得注意的是,美国成年人AI使用率只从2025年的61%上升到64%。消费者AI支出的高速增长,主要来自已有用户使用得更深入,付费更多。新增用户有限。

图:Menlo Ventures消费AI支出图

Menlo Ventures合伙人Amy Wu Martin指出,今年令人意外的变化,是消费者AI市场在没有迎来大量新用户的情况下实现了三倍增长。推动增长的,是重度用户将AI带入更多生活场景,并开始允许AI代表自己采取行动。

现在,更重要的是一个用户每天有多少任务交给AI,以及每项任务能够创造多少实际价值。这也是Personal Agent(PA)重新成为大厂和创业公司共同关注方向的原因之一。

最近推出的Duet、Dots、Muse、Grokbot以及一批独立创业公司的产品,虽然在入口、记忆、权限体系和执行方式上存在不同,但都在尝试扩大AI能够承接的个人任务范围。

如果Agent能够持续处理邮件、安排工作、操作软件、完成采购、协调不同服务,AI调用便可能从用户主动发起的短时会话,转向围绕实际任务展开的长流程执行。

Agent之间的协作,以及越来越多由机器直接发起的工具调用和服务请求,也可能进一步扩大推理消费市场。

不过,更多Token消耗本身并不代表商业成功。

一家PA公司如果每月向用户收取20美元,却需要花费30美元购买模型调用和其他服务,那么它可能帮助上游模型商扩大收入,自己却仍然无法盈利。

同样,模型越来越高效,也可能让过去需要大量Token的任务变得便宜。即使Agent数量大幅增长,市场总收入也不一定以相同比例增长。

模型公司希望扩大推理消费市场,应用公司希望以更低的推理成本完成任务,用户关心实际完成的工作值多少钱。

DeepSeek的38美元,展示了在特定条件下,高效率生产Token所具有的潜在收入能力。

过去几年,资本市场为AI投入了巨额资金,芯片、存储和算力基础设施率先从中受益。随着推理系统继续进步,模型公司和应用公司一直在面对另外一道更复杂的商业命题:如果越来越多企业都能以更低的成本生产智能,谁能找到足够多愿意购买智能的客户?

还有更难的问题:如果AI是一个新的时代,token承载的“智能”,要创造什么增量?AI Native的核心逻辑,还在一片混沌中等待。

本文来源:腾讯科技

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。