微软发布 Maia 300:自研芯片将成为 Azure AI 推理主力
导语
微软公布了第三代自研 AI 芯片 Maia 300,并给出一个比单纯推出硬件更明确的定位:从 2027 年开始,Maia 将逐步成为微软产品与服务的主要 AI 推理系统。对一家同时运营 Azure、Copilot、GitHub Copilot 和自研模型的云服务商而言,这意味着自研芯片不再只是补充 Nvidia、AMD GPU 的基础设施,而是开始承担更核心的生产任务。
核心要点
- 面向新一代推理负载。 Maia 300 针对长上下文推理、对延迟敏感的对话体验,以及持续执行、多步骤的智能体任务进行设计。它的重点并非只追求训练峰值,而是降低大规模在线推理的持续成本。
- 微软公布了能效指标。 微软云业务负责人 Scott Guthrie 称,Maia 300 预计每兆瓦可处理的 token 数量比领先的 GPU 系统高 40%;在完整的 96 加速器配置下,其机架级 token 吞吐量最高可达 Maia 200 的 7 倍。这些数字目前属于微软披露的预期或内部指标,仍需等芯片进入生产环境后由外部测试验证。
- 采用芯粒化设计。 Maia 300 基于台积电 N2P 工艺,并将计算、内存控制器和 I/O 分离。微软表示,这样可以把更多硅面积用于计算,同时让不同功能采用更适合自身需求的技术。
- 从芯片延伸到模型。 微软 AI 部门负责人 Mustafa Suleyman 表示,微软需要掌握从硅片到模型的完整技术栈,并与模型共同设计平台。Maia 300 因而不仅服务 Azure 基础设施,也被视为微软提升自研模型竞争力的一环。
意义与影响
Maia 200 今年 1 月才公布,目前已用于 Microsoft Copilot、GitHub Copilot、Microsoft Foundry 和微软自有模型的生产工作负载。Maia 300 的快速迭代表明,微软正在把定制芯片变成长期基础设施战略,而不是一次性的成本优化项目。
推理阶段的芯片需求与训练并不完全相同。模型上线后,服务商必须持续处理大量请求,同时应对上下文变长、响应延迟和智能体任务链变复杂等问题。如果 Maia 300 的能效和吞吐量达到微软预期,微软就能在部分场景减少对通用 GPU 的采购压力,并更灵活地调整 Azure 的成本结构。
不过,这并不意味着 Nvidia 和 AMD 会立即退出微软的供应链。微软仍需要兼容多种模型、软件栈和工作负载;而 Maia 300 的生产规模、实际可用性及开发者生态,也要等 2027 年部署后才能更清楚地评估。真正值得关注的是,微软是否能把芯片、云服务和模型协同起来,形成比单独购买 GPU 更具效率的完整系统。
来源:The Verge AI
评论
正在确认登录状态……
正在加载评论……