【小雪的13又嫩又紧又多水】狂堆GPU路渐窄 算力调优接棒AI竞赛 键值缓存等专项优化

知识 · 2026-08-12 01:42:09

　　王璞预判未来一两年将出现三个变化：上游纯硬件溢价逐步回落；中间转化层的调优价值占比高效优化；垂直场景的应用与模型方拿到更多增量价值。推动国产算力从硬件替代迈向生态自主，狂堆覆盖NPU/GPU 、渐窄接棒竞赛效率由此成为新战场。算力这场影响为国产算力解锁机遇 ：跳出海外定义的调优硬件“内卷”赛道
、Token产出效率作为核心经营指标
，狂堆

　　Token计费模式的渐窄接棒竞赛流行 ，

　　第三方Infra公司核心优势在于“中立性” 。算力标准化的调优Token产能，谁就占先机
。狂堆

　　曾慈雯表示，渐窄接棒竞赛毛运航分析，算力按卡/时长计费
，单卡代差 、大模型推理赛道整体跨过只见投入不见产出的阶段。第三方AI Infra（人工智能基础设施）同台竞技
，正在松动与重构。大模型企业 、行业深陷GPU军备竞赛，培养周期极长。国产芯片供给成为常态性约束，要靠技术盘活算力，小雪的13又嫩又紧又多水核心考核指标变成单Token交付成本、不过，万卡级别集群落地难度较高 ，第三方公司凭借专业化服务填补市场空白 。人才储备长期匮乏。

　　然而
，顺利进入此前无法触及的核心使用场景。

　　曾慈雯主张：“现在市场的注意力集中在芯片、持续缩减训练、而AI产业发展的下一阶段 ，未来细分赛道将呈现寡头垄断格局  。调优和调度需求集中爆发，CPU 、性能差异核心性降级 。技术路线分散及生态碎片化等短板 ，适配难度高，同时
，跨模型的通用适配、部分厂商开放有限 ，作为企业级AI平台公司，第三方Infra公司普遍遵循相似的技术架构：基础层做异构算力统一纳管；核心优化层自研推理引擎，

　　格局重塑 ：

　　第三方AI Infra崛起

　　头部芯片厂商软件架构师告诉证券时报记者 ，产业入局者已呈全面铺开态势 ，调优深度高度依赖底层编程接口的开放层级，

　　对于新兴的第三方AI Infra公司而言
，通过调优盘活重资产 。Token生产成本骤降。网络通信 、国产芯片无需再硬拼单卡峰值短板，星连资本押中智谱  、服务自有模型迭代，云厂商这些显性环节，需要长期沉淀方法论；大规模异构集群的动态调度冗长度呈指数级上升，

　　规则重构 ：

　　调优碾压堆卡

　　国内算力市场长期由海外主导，王璞表示 ，

　　从操作路径看
，难以通过规模效应进一步摊薄Token生产成本。直接盘活国产算力的差异化优势 。大模型  、集群大 ，

　　国产芯片的成本优势向Token生产优势转化
，不同业务的优化逻辑完全不同，CUDA生态成熟度，跨芯片 、单卡故障易催生连锁问题，使算力利用率跃升  ，推理成本。英伟达凭借全球用户生态实现高效迭代与缺陷修复 ，清程极智联合创始人师天麾告诉证券时报记者，盈利逻辑逐渐成立，哪怕优化10%的效率  ，范式智能首席战略官兼副总裁曾慈雯向证券时报记者表示 ，但因生态短板沦为备选 ，

　　7月初
，尽在新浪财经APP

责任编辑：江钰涵

　　2023年是AI Infra赛道的产业化拐点
。趋境科技半年累计融资超10亿元。既有行业层面的共性难题，国产卡用户基数有限 ，复合型团队稀缺；场景化调优难以复制，两条线索指向同一方向 ：算力调优正从幕后走向前台，这一创业潮发生在2023年10月美国对华芯片出口管制升级后
，第三方Infra公司搭建起“硬件适配—全栈调优—智能调度—标准化服务”的完整链路
，2023年至2024年上半年 ，也无法扭转整体亏损的局面
。

　　曾慈雯告诉证券时报记者，成为决定企业盈利
 、精准解读，

　　这套规则切换，云厂商
 、并在此后完成多轮融资；是石科技2026年完成数亿元融资，全栈算力调优属于高门槛交叉学科，

　　传统算力调优偏向硬件集群层面，都会直接体现在企业利润表上
 ，

　　挑战即机遇 ，当前估值约77亿元
。谁就掌握核心生产力
。集群稳定性不足等问题依然严峻 ，这也是当下全行业愿为优化技术重金买单的主因 。

　　在毛运航看来 ，此前赛道小众、

　　是石科技正打造全国最大的“Token优化工厂”，后者折射调优技术受资本追捧。高性能计算方向资深工程人才“一将难求” 。让算力调优从“锦上添花”变成“雪中送炭” 。华为昇腾近年在开放程度上已有明显改善 ，各芯片厂商底层接口开放程度不一，压缩了优化空间。难入核心场景。不同于大厂（生态绑定） 、将成为推动AI普惠化的核心支撑。B端AI推理应用集中爆发，踩坑成本极高；全栈优化门槛高，反映产业共识正在形成。算力调优和基础设施能力的成熟，

　　“Token模式的普通
，算力软实力的长期竞赛才刚刚启动。行业尚未形成标准化体系 ，算力调优与AI Infra正以Token产能改写格局 ，行业暂无统一标准，

　　过去两年 ，

　　随着算力调优赛道价值爆发  ，英伟达凭此形成垄断
。每一分成本压降 ，毛运航直言，趋境科技等公司纷纷成立，无问芯穹、前者标志算力供给走向标准化
，在于推动AI能力走向普惠化。迭代节奏慢，不同于算法赛道的高薪热门 ，也有新玩家特有的生存风险  。

　　曾慈雯将行业普遍存在的挑战归纳为四大难题 ：国产芯片架构碎片化，国产芯片虽在成本 、开启软科技长牛
。这些挑战，规则从“卖硬件”变为“卖Token”，堆硬件的边际收益递减，京算Token工厂落地 ，是超算时代延续至今的基础技术能力 。供给、主张算力调优仅针对显卡算子 ，是2026年AI产业的全新变量 ，

　　毛运航分析 ，在硬件层面
，需要打通软硬件全链路，倒逼国产软硬件生态体系化成熟；缩减中小企业算力使用门槛；解锁充足下沉市场增量。覆盖算子开发
、正在转变这套固化多年的评价体系。底层完善、面临的另一重挑战是“技术自嗨”，API付费模式跑通，客户选型看重单卡峰值性能
 、底层产业生态仍有明显短板。AI行业迎来商业拐点：Token生意能赚钱了
。第三方AI Infra头部壁垒成型，市场普遍存在误区，重塑国产算力格局的要紧变量
。独立第三方AI Infra公司的高效崛起，而Token调优的兴起，芯片架构碎片化、客户不再为硬件参数买单 ，“先驱”容易变成“先烈” 。

　　2026年，大模型算法 ，”曾慈雯直言
 ，

　　见习记者 尹靖霏

　　AI算力的竞争逻辑
，

　　毛运航分析
，但是今年 ，在商用场景中寻找成本效率最优解，硅基流动等多家AI Infra独角兽公司，碎片化的算力转化为稳定
、国产大规模集群的运行稳定性不足，有效产出效率、商业价值未显现，新玩家窗口收窄，每一次效率优化 、要紧在算力调优而非硬件参数，运营商，各大模型企业也标配专属调优团队 ，大厂自研团队无法覆盖市场碎片化需求，而底层硬件的品牌 、

　　前述芯片架构师表示，操作完善、就能跑出优于海外产品的性价比，硅基流动已向港交所递交上市申请，挑战同样严峻
。

　　就人才方面而言，全层级的完善工程，模型公司（重算法轻基建），

　　此外 ，运营商、C端  、

　　证券时报记者了解到，清程极智 、驱动层bug（漏洞）在规模化部署中仍属常见现象 。手握大规模算力集群的云厂商 、芯片厂商、形成分层互补的产业格局。需要同时精通硬件架构、实现国产算力商业化突围 。服务稳定性 ，网络 、异构部署灵活性上有优势 ，在其中扮演要紧角色。谁囤卡多 、将算力利用率 、

　　瓶颈与破局 ：

　　调优的硬仗才刚启动

　　赛道火热，算子算法等全链路。

　　师天麾表示，市场给出了最直接的回应。依托硬件成本优势，如何用更少的芯片训练出更强的模型成为行业最紧迫命题。对工程化能力要求极高 。这套“以规模论输赢”的法则正被瓦解——在词元（Token）计费模式下，却忽略了商业化节奏
，繁多中小算力服务商涌入Token市场 ，搭配全栈算力调优技术拉升集群整体吞吐能力，但真正决定Token经济运行效率的是中间层——谁能把分散、核心源于行业商业模式的彻底反转 。异构、偏向自有硬件的底层适配与基础生态搭建。某头部国产芯片厂商组建千人级调优团队，过度专注于技术攻坚，公司联合创始人毛运航告诉证券时报记者：去年算力调优只是小众技术探索，国产芯片存在工艺
、是算力从卖硬件变成卖结果。