微软 Maia 300 与推理算力的自造时代:当每兆瓦 token 成为新硬通货,银行的算力战略要重算什么
核心摘要
- 2026年10月12日,微软在OCP全球峰会发布第三代自研AI芯片Azure Maia 300,计划自2027年起把Maia系列扩展至多吉瓦规模,作为微软产品与服务的主要AI推理系统
- 这是继谷歌TPU、亚马逊Trainium之后,又一超大规模云厂商以自研芯片降低对英伟达、AMD依赖的标志性动作,算力供应链的议价权与锁定格局正在重塑
- 微软称 Maia 300 为推理优先设计,预计每兆瓦可产出的 token 数比主流 GPU 系统高 40%,96 颗加速器满配机架的 token 吞吐最高可达 Maia 200 的 7 倍;但这个 40% 是官方预期值,尚无独立客户验证,需要与既成事实区分
- 这一发布的真正信号不是又多了一款芯片,而是竞争焦点从训练转向推理、核心指标从 FLOPS 转向"每兆瓦 token、每美元 token",且超大规模云厂商正集体把芯片"藏进服务"——据彭博报道,微软目前无意将 Maia 作为独立云算力对外出售
2026年10月12日,微软在OCP全球峰会发布第三代自研AI芯片Azure Maia 300,计划自2027年起把Maia系列扩展至多吉瓦规模,作为微软产品与服务的主要AI推理系统。
这是继谷歌TPU、亚马逊Trainium之后,又一超大规模云厂商以自研芯片降低对英伟达、AMD依赖的标志性动作,算力供应链的议价权与锁定格局正在重塑。
微软称 Maia 300 为推理优先设计,预计每兆瓦可产出的 token 数比主流 GPU 系统高 40%,96 颗加速器满配机架的 token 吞吐最高可达 Maia 200 的 7 倍;但这个 40% 是官方预期值,尚无独立客户验证,需要与既成事实区分。 规格上,单芯片 8 组 HBM4、18.0 TB/s 峰值显存带宽、950W 热设计功耗,整机架 96 颗加速器、167 千瓦供电、27.6TB HBM 容量。
这一发布的真正信号不是又多了一款芯片,而是竞争焦点从训练转向推理、核心指标从 FLOPS 转向"每兆瓦 token、每美元 token",且超大规模云厂商正集体把芯片"藏进服务"——据彭博报道,微软目前无意将 Maia 作为独立云算力对外出售。
对银行而言,这意味着买到的不再是芯片,而是被封装好的"每 token 价格";算力供应链的议价、锁定、能效与自主可控,都需要重新计算。 本文先核验事实,再拆解三层信号,最后给出银行的算力战略与采购清单。
一、事件核验:Maia 300 到底发布了什么
- 代际与时间:Maia 100 于 2023 年首推,Maia 200 现已在生产环境承载 Microsoft Copilot、OpenAI 模型、微软自研 MAI 模型及主流开源模型,部署于美国、欧洲、澳洲;Maia 300 为第三代,2027 年开始生产部署。
- 官方能效口径:微软称 Maia 200 已为 Teams、Copilot、Cowork 的内置 AI 带来每瓦 token 数最高 1.7 倍的提升;Maia 300 预计每兆瓦 token 多 40%、机架吞吐为上代 7 倍。这些均为微软自述("we expect"),第三方指出尚未有独立客户实测。
- 架构特征:多 chiplet 设计、台积电 N2P 工艺、MXFP4 低精度、片上 SRAM 作为软件管理的暂存区、以太网 scale-up 互联,面向长上下文推理、低延迟对话与持续多步智能体任务。
- 机架与电力:96 颗加速器封装在 167 千瓦供电的机架内,聚合 27.6TB HBM 与 1.7 PB/s 显存带宽——高密度背后是液冷与供电成为数据中心硬约束。
- 商业模式:微软强调其平台"开放、异构、模型多元",但据彭博等报道,Maia 目前主要自用、不向云客户单独售卖,与谷歌、亚马逊已把自研芯片以云服务开放的做法形成差异(此为媒体口径,非官方博客直接表述)。
二、信号一:从"训练军备赛"到"推理经济学"
过去三年行业关注的是训练大模型所需的峰值算力(FLOPS)、显存与集群规模;而 Maia 300 的关键词几乎全部围绕推理:长上下文、解码密集、低延迟、多步智能体。这与本专栏此前梳理的"推理经济"相互印证——当智能体 7×24 小时持续调用工具、为每一个业务动作生成 token,成本的主体从一次性训练转向随业务量线性增长的推理支出。 美国合众银行秋季 CFO 调查中 51% 企业 AI 预算超支,正是这种推理用量在财务上的直接表现。芯片层面的竞争,因此从"谁训练得动"变成"谁能在每一度电、每一美元里挤出更多有用的 token"。
三、信号二:超大规模厂商集体"自造",但把芯片藏进服务
谷歌 TPU、亚马逊 Trainium/Inferentia、微软 Maia 相继迭代,云厂商去英伟达化、垂直整合已成趋势。但需要特别注意银行面对的实际形态:当微软把 Maia 主要用于自家 Copilot 与 Azure 服务、不单独售卖时,银行作为云客户根本接触不到芯片,只能按服务为"每 token"付费。 这带来两个后果:
- 芯片层的降本未必等比例传导给客户,云厂商既当"算力工厂"又当"算力零售商",议价权进一步上移。
- 硬件差异被 API 和服务接口封装,迁移与比价更困难——锁定从"芯片型号锁定"升级为"服务与数据工作流锁定"。
四、信号三:电力与散热成为算力的物理上限
167 千瓦的单机架供电、950W 的单芯片功耗、多吉瓦的部署目标,说明 AI 算力的边际约束越来越多落在电力、液冷与数据中心选址,而非芯片本身。对银行而言,这既是自建机房与私有化部署的现实门槛,也是绿色金融、数据中心 REITs、电力与液冷产业链的投融资线索;"每兆瓦 token"本质上是一个把能源效率与 AI 能力直接挂钩的新指标。
五、对银行的四重含义
- 作为算力买家:成本谈判的锚点应从"什么芯片、多少卡"转为"每百万 token 的实际单价、每美元的有效完成任务数、每兆瓦吞吐",并要求供应商在合同中给出可度量的能效与价格 SLA。
- 作为供应链与锁定风险的管理者:自研芯片+封闭服务会加深单一云厂商依赖;银行应坚持多供应商、可移植的模型与工作流设计(容器化、标准 API、模型可替换),避免把核心业务绑死在某一家的私有芯片与服务上。
- 作为自主可控的责任主体:在中国语境下,金发〔2026〕8 号文已把"自主可控"列为原则,国产算力(昇腾等)与异构适配是必答题;微软、谷歌、亚马逊的"去单一供应商"动作说明,算力多元化是全球共同选择,而非仅由地缘因素驱动。
- 作为绿色金融与金融机构自身 ESG 的承担者:高密推理带来的电力与散热压力,需要纳入数据中心规划、能耗预算与信息科技风险评估,并向董事会报告算力组合的能源与成本结构。
六、银行算力战略与采购清单
- 把指标写进合同:以 tokens/美元、tokens/兆瓦、有效任务完成率(而非调用量)作为采购与验收口径,约定降价条款与容量保障。
- 先做 PoC 再相信能效数字:对"高 40%、7 倍"这类厂商预期值,用本行真实的长文本、风控、客服负载做基准测试,以实测而非发布稿决策。
- 坚持异构与可移植:同一模型至少能在主流 GPU、国产算力与不同云之间迁移,核心系统不建立在单一专有芯片/服务之上,定期演练退出与切换。
- 构建分层算力组合:敏感数据与高风险场景用私有化/国产算力,弹性与创新场景用公有云,按数据等级与风险分级配置,呼应监管的分类分级要求。
- 把电力纳入算力规划:在自建与托管决策中加入机柜功率、液冷改造、电价与碳排约束,避免"买得起卡、供不起电"。
- 建立算力 FinOps:分用例、分部门计量 token 与能耗,设预算阈值与用量护栏,这与前文建议的 AI 投入 ROI 治理是同一套财务纪律。
结语
Maia 300 的意义,不在于它是否真的比英伟达快 40%,而在于它把一个新的现实摆到所有用 AI 的机构面前:未来的算力竞争,是"在每一度电、每一美元里产出多少可信 token"的竞争,而这条供应链的关键环节正被云厂商牢牢攥在手里。 对银行来说,算力不再是信息科技部门的采购清单,而是同时关乎成本、锁定、自主可控与能源安全的战略变量。真正稳健的选择,不是在"自研芯片"和"通用 GPU"之间押注,而是坚持可度量、可移植、可退出、分层多元的算力组合——在推理成为常态的年代,把算力的主动权,始终握在自己手里。
(注:Maia 300 规格、代际、部署计划与 40%/7 倍/1.7 倍等数据均来自微软 2026 年 10 月 12 日官方博客与产品页,其中 40% 为官方"预期"、尚无独立客户验证;"主要自用、不对外单独售卖"为彭博等媒体口径,并非官方博客直接表述;芯片工艺、HBM 等技术参数参考 StorageReview、Notebookcheck 等专业媒体。文中已区分官方事实、官方预期与媒体报道,不构成投资或采购意见。)
参考文献
- Microsoft to expand Azure Maia system to multi-gigawatt deployments(官方博客,Scott Guthrie,2026-10-12) [Microsoft Official Blog]
- Microsoft's latest custom chip: Maia 300(官方产品页) [Microsoft News]
- Microsoft debuts multichiplet Maia 300 inference accelerator(SiliconANGLE,2026-10-12) [SiliconANGLE]
- Microsoft Maia 300 Puts 288GB of HBM4 at 18TB/s on an N2P Chiplet and 96 Accelerators in a 167kW Rack(StorageReview,2026-10-12) [StorageReview]
- 报道:微软明年将大规模部署自研AI芯片,目标推理效率提升40%(华尔街见闻转彭博,2026-10-12) [华尔街见闻(转彭博)]
- 微软发布Maia 300芯片 加速降低对英伟达依赖(财联社,2026-10-12) [财联社]
- Microsoft bets big on Maia 300 to reduce reliance on NVIDIA GPUs(TweakTown,指出40%尚无独立客户验证,2026-10-12) [TweakTown]
- Microsoft Maia 300 AI chip arrives with 288GB HBM4 and 18TB/s bandwidth(Notebookcheck,2026-10-12) [Notebookcheck]