Edge0开源1450亿参数模型，试图把前沿能力搬到个人电脑

2026年11月12日阅读约 2 分钟

导语

大模型本地化长期受制于一个矛盾：参数越多，能力通常越强，但内存、带宽和功耗也越难承受。Edge0此次开源Edge0-145B和Edge0-120B，并同步发布推理框架、部署工具及应用，试图将这一矛盾从“缩小模型”转向“重新设计本地推理系统”。

面向个人电脑的超大模型：Edge0称，Edge0-145B可在兼容笔记本上运行，报告中的峰值内存约为29GB，预填充速度超过1100 tokens/s，解码速度超过80 tokens/s，典型功耗约120W，并支持128K至256K上下文。上述数据来自厂商测试，具体结果取决于硬件、量化和软件配置。
稀疏专家与共享参数：模型总参数量为1450亿，但每次推理约有100亿参数参与计算。每组64个专家共享两组大型矩阵，专家只保留较小的差异参数，以减少需要存储和搬运的权重。
软硬件协同加载：系统将GPU显存、系统内存和SSD组成流水线，常用专家留在显存中，其余专家按需调入；CPU与GPU并行处理不同工作，并结合投机解码提高生成效率。
目标不只是聊天：官方展示的工作流包括写代码、运行和调试程序，以及对3D场景、游戏、硬件程序和PCB设计进行视觉检查。模型还被定位为能够完成多步骤任务的本地智能体。
性能比较需谨慎看待：Edge0披露了DeepSWE 1.1、GPQA-Diamond、IFBench、Terminal-Bench 2.1和AA-LCR等成绩，并与若干云端模型对比。不过这些比较只覆盖特定模型和测试设置，不能直接等同于全面能力超越。

如果相关数据能够被独立复现，Edge0的价值不只在于“1450亿”这个参数规模，更在于它把模型结构、训练目标、权重加载和运行时调度作为一个整体优化。对于代码仓库、设计文件或敏感业务数据，本地推理可以减少对API费用、网络连接和数据外传的依赖；但用户仍需承担高规格硬件、电力、存储和部署维护成本。

这项发布也提示，本地AI的竞争焦点正在从单纯追求更小模型，转向如何让大模型在有限带宽和内存下持续运行。当前材料主要来自项目方，且部分性能属于内部测试，因此模型权重、推理框架和实际应用体验仍需要社区验证。真正的普及，还取决于兼容硬件范围、安装门槛、许可证细节，以及长任务稳定性。