作者：qinbafrank

前言

最早是7月6号看到了Coinbase在AI上工程化实践，让我开始深度思考和研究企业在未来采用部署AI的过程中会出现什么的趋势变化。（相关阅读：CSP（云服务商）部署性价比高的开源模型并转售Token的意义、未来超大CSP的业绩表现将会衡量AI商业化更重要的指标）

沿着这个思考进一步去深化扩展，就形成现在的这篇长文，更详细地聊聊个人的逻辑和想法。

一 分场景、多模型，企业采用AI进程进入工程化阶段带来的变化

1、分场景：企业不会再问“哪个模型最好”，而会问“这个任务应该用哪个模型”

未来不是“专项高性价比Token”，因为Token本身只是计量单位。真正被专项化的是：模型；推理策略；上下文与数据；工具调用路径；硬件与服务方式；安全和人工复核机制。

企业选择模型的目标函数将从单纯追求模型能力，变成：

任务净价值=任务成功概率×业务价值−推理及执行成本−错误与风险损失。

由此会形成四类典型场景：

例如，邮件分类、摘要、字段抽取、初步客服分流、代码格式检查等任务，对模型能力的边际要求较低，却具有调用量大、价格敏感的特点。这类任务会逐渐迁移到小模型、开放模型或CSP自研性价比模型。

而复杂代码生成、重要合同分析、科学推理、战略研究、复杂Agent规划等任务，模型准确率提升几个百分点可能对应很高的业务价值，因此仍愿意支付前沿模型溢价。

2、企业采用AI越深入，越需要专有的AI系统

无论前沿闭源大模型使用了多少公共、授权或合成数据，它通常都不掌握某一家企业的实时数据、内部规则、组织权限和隐性经验。大企业更需要的是“私有 AI 边界”，包括数据不被用于训练、私有网络、专属租户、权限隔离、数据驻留和可审计性；只有一部分场景必须真正本地化或隔离部署。

企业真正缺少的不是一个“读过所有企业文件”的模型，而是一个能够在正确权限下，调用正确数据，并按企业规则采取行动的系统。

企业私有数据需要分四类处理：

而“经验型数据”是企业AI最难的资产，经验并不天然以数据形式存在。它通常分散在：老员工的判断中、邮件和聊天记录中、被否决但未记录的方案中、异常事件处理过程中、人工覆盖系统建议的动作中、客户投诉和事后复盘中。

要把这部分经验转化为AI资产，企业必须建立：

原始经验→任务样本→专家判断→正确与错误标准→模型评估集→反馈和后训练

因此大企业的护城河不是简单的“拥有很多文档”，而是：

能否把隐性知识转化为机器可学习、可检索、可评估、可执行的组织上下文。

这也正是为什么企业AI越来越需要FDE、数据工程师、领域专家和业务负责人共同参与。

而上面聊到这么多都指向了一点：

企业采用 AI 正从“购买最强模型”进入“围绕私有数据、业务流程和多模型系统进行工程化部署”的阶段。

二 “复合AI系统”到“中间层”崛起

1、多模型、多模块：AI产品将从“模型调用”升级为“复合AI系统”

未来企业生产级AI系统通常不会只是一个模型API，而是由多个模块共同完成工作：用户请求、 身份与权限、场景识别、数据和上下文获取、 模型路由、模型推理、工具/API调用、结果验证、风险控制、人工复核或自动执行、监控和持续评估。

这里的“多模块”比“多模型”更重要。因为企业最终购买的不是模型本身，而是一个能够可靠完成业务任务的系统。

为什么企业会走向多模块？

1）单一模型不可能同时在质量、成本、速度、隐私和稳定性上都最优。

2）模型本身并不了解企业实时数据、权限体系和业务状态。必须通过数据层、检索层、工具层和系统连接器取得上下文。

3）生产环境需要可审计、可回滚、可监控。模型输出不能直接等同于业务执行。

4）模型更新频繁。企业必须把业务逻辑与特定模型解耦，避免每次模型变化都重写整个应用。

MCP等开放协议的出现，就是在试图标准化模型与数据源、企业工具之间的连接方式，减少每个模型分别开发连接器所造成的碎片化。

但多模型不等于模型数量无限增加

每增加一个模型，企业都会增加一组隐性固定成本：安全审核、法务与知识产权评估、数据驻留审查、质量基准测试、模型更新后的回归测试、运维和故障处理、供应商管理。所以最可能出现的组织形式并不是“每个团队自由选择几十个模型”，而是：

中央建立有限的合规模型池、统一数据与安全控制面；各业务部门根据场景调用不同模型。

这带来的趋势就是：底层基础设施逐步集中，场景创新则分散到业务部门。

2、中间层价值崛起：成立，但必须区分“控制权”与“独立商业价值”

未来中间层大致可以分为六类：

哪些中间层最容易获得价值

最有可能长期捕获价值的，不是最薄的模型包装层，而是控制以下一种或多种稀缺资源的平台：

1）企业数据和上下文：能够合法、实时、按权限调用企业数据。

2）身份和安全：决定AI可以访问什么、可以替谁执行什么。

3）业务工作流：掌握任务入口和执行闭环。

4）跨模型评估数据：积累真实生产环境的质量、成本和风险数据。

5）分发能力：已经拥有大量企业用户或系统入口。

数据平台、云平台、安全平台、ERP和行业软件厂商因此具备天然优势。

微软披露，其AI客户越来越多地同时使用Foundry、Fabric、Cosmos DB和安全治理服务；Google也强调AI使用推动BigQuery和数据工作流增长。这说明AI模型调用可能成为数据库、分析、存储、安全和Agent运行时等服务的获客入口

哪些中间层容易被商品化

以下中间层虽然有使用价值，但未必能形成独立利润池：

• 简单API聚合；

• 没有专有数据的模型路由；

• 通用Prompt管理；

• 没有业务闭环的基础Agent编排；

• 只在多个模型之间转发请求的薄层产品。

原因是AWS、Microsoft、Google等CSP本身可以将这些功能作为云服务免费或低价捆绑；大型应用厂商也可以把它们内嵌到现有产品。

所以更准确的判断是：

中间层的战略重要性必然上升，但中间层独立厂商的总价值未必同比例上升。

中间层可能成为AI产业的“操作系统”，但最后获得经济利益的可能是：CSP、数据平台、安全和身份平台、拥有系统记录的应用软件公司、少数具有跨云中立性和专有生产数据的独立中间件厂商。

跨云中立性会是独立厂商对抗CSP捆绑的重要优势。大型企业通常不愿把模型、数据、评估和治理完全锁定在同一个云平台，因此独立中间层仍有空间，但必须提供超越“简单调用模型”的能力。

三 多模型时代，超大CSP会不会成为坚实中间层

1、CSP部署开放模型和自研性价比模型，会带来什么变化？

变化一：模型调用从单一供应商采购，变成模型组合管理

企业不再只与一个模型厂商深度绑定，而会维护一个模型组合：

• 前沿闭源模型承担能力要求最高的任务；

• 开放模型承担可标准化和可私有化任务；

• CSP自研模型承担高频、成本敏感任务；

• 企业自有模型承担高度专有、数据敏感任务。

CSP成为模型组合的入口和路由器。模型厂商争夺的不再只是客户，而是模型在路由系统中的任务分配份额。

新的模型竞争指标因此包括：被纳入多少企业合规模型池？在路由器中获得多少请求？获得的是高价值任务还是低价任务?

变化二：模型价格下降，但总AI支出未必下降

模型变小、缓存增加和上下文压缩会降低每任务Token和每Token价格；但成本下降也可能激发更多使用场景，使任务量大幅增长。

变化三：CSP收入来源从模型抽成扩展到全栈附着

即使开源模型不产生高额模型授权收入，CSP仍可以从以下环节收费：GPU、TPU和自研ASIC计算；托管推理服务；数据库和向量检索；对象存储；网络和数据传输；Agent运行时；安全和身份；评估、日志和监控；企业支持服务。

因此，CSP真正关心的不是模型本身的收入份额，而是：

CSP AI总毛利=推理毛利+数据附着毛利+存储网络毛利+安全治理毛利+Agent运行时毛利

AWS披露Bedrock客户支出环比增长、Token处理量大幅上升，同时推出AgentCore注册、政策和评估等服务；Microsoft和Google也在推动模型、数据、Agent和治理服务的组合。这说明CSP正在试图把模型服务转化为全栈云消费。

变化四：模型厂商价值不会消失，但会向能力顶端和应用端延伸

开源和自研性价比模型会压缩中低端模型的价格，但不会自动消除前沿模型价值。模型厂商可能采取三条路径：1）持续提高能力上限，保持复杂任务溢价；2）向Agent、编码、研究等高价值应用上移；3）提供定制后训练、安全、企业治理和专属容量。

最终更可能形成：

CSP控制基础设施和模型分发；

前沿模型厂商控制能力上限；

中间层控制上下文、治理和调度；

应用厂商控制工作流和用户入口。

这不是单一层赢家通吃，而是不同层分别收取不同类型的租金。

变化五：企业在模型层的议价能力提高，但平台锁定可能加深

多模型和开放模型降低了企业对单一模型厂商的依赖。

但如果企业的数据、权限、Agent状态、评估系统和工作流都部署在同一个CSP上，那么模型层锁定下降的同时，云平台锁定反而可能上升。

也就是说：

模型可替换性提高，不代表整体架构可迁移性提高。

2、CSP控制的是横向AI底座，垂直SaaS控制的是业务执行层

CSP最有可能捕获以下价值：GPU、TPU和自研ASIC算力；开源模型托管；闭源模型分发；模型微调与蒸馏；数据库和数据湖；向量检索与知识图谱；网络和存储；身份和权限；安全与治理；Agent运行时；评估和可观测性；企业技术支持。

垂直SaaS掌握：工作入口；业务对象；业务语义；用户权限；历史操作数据；系统记录；行业规则；最终动作执行；客户结果反馈。

因此，它可以把便宜模型包装成高价值业务结果。

但这只适用于真正拥有工作流和核心独家数据的SaaS。只是给通用模型套一个简单界面的薄应用，反而容易被模型厂商或CSP替代。之前这里https://x.com/qinbafrank/status/2059845057155608629?s=20

有聊过这一点。

3、最可能形成“双中间层”

未来企业AI架构可能是：

CSP不一定能够直接越过垂直SaaS控制全部业务流程；垂直SaaS也不太可能独立承担底层大规模算力和多模型基础设施。谁能够捕获最多价值，取决于五个控制点

真正高价值的层，不一定是离模型最近的层，而是能够同时控制：

上下文、权限、工作流、行动和结果反馈。

传统SaaS项目通常是：

Fit-gap分析 → 配置 → 数据迁移 → UAT → 上线。

企业AI项目更接近：

场景筛选 → 数据权限 → 评估集 → 模型选择 → RAG和工具接入 → 模型路由 → 安全边界 → 人工复核 → 生产监控 → 反馈与后训练。

最大区别是：

SaaS主要是在既定软件中配置流程；AI是在生产过程中持续优化一个概率系统。

因此，AI实施更像软件工程、数据工程、模型工程、流程咨询和组织变革的结合体。

四 对超大CSP的价值重塑

1、超大CSP的价值重塑

之前https://x.com/qinbafrank/status/2074754779755295164?s=20 这里有聊过：之前市场认为CSP特别是几家超大CSP是一个二道贩子，贩卖算力和token，同时还要承担巨额的资本开支但并没捕获最大的价值。 现在“高效中型模型 + 规模部署”在生产环境下也证明了自己觉的价值，而非一味追求参数军备竞赛。

那么过去的认知也要反转了： 超大CSP已经是企业AI进程多模型架构下的“AI操作系统层”。

成本营收结构的变化 CSP 转售闭源模型时：

CSP 拿到的分成比例有限（通常 20-50% 不等，具体看合同），还要承担模型方的定价压力。 自托管开源模型转售：开源模型基本零授权成本，CSP 只需承担自己的算力、电费和运维成本。CSP 几乎拿走全部 markup（扣除算力成本后）。因为定价可以参考开源社区实际成本 + 合理溢价，空间更大。

自研模型更不用说，几乎营收全在CSP。

2、但对超大CSP也带来新的挑战：时间差

可以把整个过程分成四个阶段。时间长度只是示意，不同行业差异很大。

阶段一：内部研发和容量投入

这一阶段：CSP训练或后训练自研模型，部署开放模型，优化芯片、推理框架和模型路由，建立安全、评估和治理平台。

财务表现可能是：Capex上升；研发费用和折旧上升；外部云收入受容量约束；毛利率承压；直接商业收入有限。

阶段二：客户试验和FDE实施

这一阶段：客户筛选场景；整理数据和权限；建立RAG、评估集和工具连接；FDE帮助完成首个生产系统。

财务表现可能是：专业服务和微调收入增加；云消费增长仍不显著；大量POC尚未规模化；人力投入增加；服务利润率可能低于软件利润率。

阶段三：生产推理规模化

这一阶段：客户工作流稳定；Agent开始持续运行；推理、数据库、存储和安全消费增加；垂直SaaS开始按使用量或业务结果收费。

财务表现可能是：CSP云消费加速；SaaS AI附加收入上升；数据和安全附着收入增加；客户续约和扩张改善；单位推理成本下降。

阶段四：模型和工作流优化

这一阶段：高频任务转向小模型、自研模型和开放模型；高价值任务继续使用前沿模型；路由、缓存和蒸馏降低成本；FDE成果逐渐产品化。

财务表现可能是：Token单价下降；任务量增长；模型厂商收入结构分化；CSP全栈附着收入提高；垂直SaaS按工作流和结果捕获更多价值；成功部署者的毛利和资本回报开始改善。

因此，市场可能先看到：

Capex和人力投入上升

→ 然后看到POC和合同

→ 再看到生产工作负载

→ 最后才看到自由现金流和ROIC。

这个时间差确实是当前AI投资争议的核心。

五 新的 AI 商业化指标体系

1、未来不能再只问“AI 收入多少”，而要同时回答五个问题。

最合理的评判方式不是寻找一个新的单一指标，而是建立从模型到资本回报的七层漏斗。

2、大模型ARR依然关键，但它应从“终局指标”变成“能力需求领先指标”

大模型厂商ARR仍然非常重要，原因有四个。

1）ARR证明企业愿意为智能能力付费，ARR至少说明部分客户已经进入付费状态，并愿意签订持续合同或形成稳定消费。

2）ARR反映前沿模型是否仍然具有溢价，如果模型能力持续带来更高的任务成功率，客户就会为高价值任务支付溢价。即使大量常规任务转向小模型，前沿模型仍可能通过复杂推理、编码、研究和Agent任务保持高价格。

3）ARR决定前沿模型厂商的研发和算力再投资能力，模型训练、后训练、推理服务、安全评估和企业销售都需要持续资本。ARR决定模型厂商是否能够形成“收入—研发—能力提升—更多收入”的循环。

4）ARR还是生态影响力的代理指标，开发者数量、API调用、企业合同、模型进入应用的深度，最终通常会部分反映在ARR中。

3、综合来看

大模型ARR仍然关键，因为它证明企业愿意为前沿能力付费；

超大CSP业绩未来更全面和权重更高，显示企业采用AI进程中中间层沉淀的价值；

最终评价标准转向成功任务经济性、企业ROI和资本回报。

AI商业化判断不应该在“大模型ARR”和“CSP云收入”之间二选一，而应形成一条完整证据链：

模型ARR证明付费需求

→ 生产工作负载证明采用深度

→ 单位成功任务毛利证明经营质量

→ 企业ROI证明需求可持续性

→ 自由现金流和ROIC证明资本开支合理性。

最终最值得跟踪的，不是“生成了多少Token”，而是

AI经济价值=生产任务数量×每任务价值×供应商价值捕获率×毛利率−资本占用成本​

这才是多模型、多模块时代衡量AI商业化的总框架。

上面所有的内容其实构成了一条连续的因果链：

业务场景差异扩大

→ 企业不再用一个模型解决所有任务

→ 形成多模型、多模块的复合AI系统

→ 路由、数据、评估、治理、安全等中间层成为控制面

→ 模型层价值不会消失，但大模型ARR从“唯一商业化指标”降为“重要领先指标”

→ 最终评价标准转向成功任务经济性、企业ROI和资本回报。

这已经不是纯粹的架构设想。AWS Bedrock和Microsoft Foundry都已经把按质量、成本和任务复杂度进行模型路由做成正式产品；微软披露，超过一万家Foundry客户使用过不止一个模型，约五千家使用过开源模型。Google Model Garden也同时提供自有模型、第三方闭源模型和开放模型的托管或自部署方式。

当然这迭代还处在早期，但趋势应该越来越明显了。