基础模型训练,能否只用一种算法完成?
一项新研究提出“统一训练”框架,尝试用同一种基于似然的训练算法覆盖预训练、SFT 与强化学习。模型训练的关键因此从“切换算法”转向“如何安排数据与生成样本”。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2275 篇文章
RSS 订阅一项新研究提出“统一训练”框架,尝试用同一种基于似然的训练算法覆盖预训练、SFT 与强化学习。模型训练的关键因此从“切换算法”转向“如何安排数据与生成样本”。
阅读全文一项针对公开模型仓库的审计发现,少数低比特 GGUF 模型虽然文件完整、甚至能够被精确复现,却几乎无法完成代码任务。问题可能不在文件损坏,而在未校准的量化流程与模型规模之间的组合。
阅读全文EasyProver通过递归代理、并行搜索和弹性 elaboration 服务,显著提升了Lean自动证明能力。研究团队还发布Aegis,将竞赛编程题转化为包含真实实现细节的代码验证任务。
阅读全文一项新研究指出,标准多Token预测训练中的梯度包含大量低信噪比残差,可能同时干扰下一Token和多Token学习。研究者提出Soft-MTP,通过直通式梯度路由仅保留有益的KL自蒸馏信号,在不增加参数和可测开销的情况下改进MTP。
阅读全文扩散式视觉语言模型在每个去噪步骤都重复处理完整图像,视觉令牌因此成为主要计算负担。LOWN通过比较有图像与无图像预测,动态判断何时重新读取视觉信息,在基本保持效果的同时显著降低推理成本。
阅读全文一项针对六个模型和三个交互环境的受控研究发现,即使 MCP 与 CLI 暴露完全匹配的可执行能力,接口呈现方式仍会显著改变智能体的任务表现、交互成本与失败恢复路径。
阅读全文OpenFlyV2 将视觉语言理解、空间推理与航迹控制整合进同一个机载模型,并在 NVIDIA Jetson Orin NX 上以 10 Hz 运行。研究显示,该系统可从仿真零样本迁移到真实四旋翼飞行任务。
阅读全文WISD通过量化或剪枝构造原模型的弱化副本,再利用两者的行为差异形成训练信号,在没有标注数据、外部教师或特权信息的情况下提升数学与代码推理能力。
阅读全文视频扩散 Transformer 的 3D 全注意力计算成本高昂,稀疏化又容易损失画质。AB-Attention 通过块内聚类、概率加权采样和更细粒度的 GPU 内核设计,在高稀疏率下改善近似精度与推理速度。
阅读全文WorkFactory提出一套从职业意图出发、通过信息支持图和探测式修复构造训练任务的方法。研究团队据此生成覆盖612种职业的112,686个任务,并训练出WorkPilot模型家族。
阅读全文Investor’s Last Exam试图在严格冻结决策时点信息的条件下,评估AI能否完成从证据检索到投资判断的完整链条。结果显示,模型擅长整理已发生的事实,却仍难把研究转化为可靠预测。
阅读全文苹果宣布将在 iOS 27.3 中面向中国市场推出 Apple Intelligence,功能将先通过 11 月 4 日发布的测试版开放。首批服务包括通知摘要、实时翻译和照片编辑,但不包含新版 Siri。
阅读全文英特尔下调第四季度业绩预期后,股价重挫约28%,美国政府持有的英特尔股份市值单日减少约120亿美元。AI产业对内存和其他零部件的需求上升,也开始反过来挤压PC市场。
阅读全文据《金融时报》报道,Blackstone预计Anthropic上市后可能获得“双B”区间的高位投机级信用评级。评级若低于此前预期,可能推高这家AI公司的融资成本。
阅读全文Alphabet、Amazon、Meta和Microsoft正在以数千亿美元的规模扩张AI基础设施,但负自由现金流、债务增加与投资者信心降温,开始给这轮支出热潮蒙上阴影。
阅读全文Anthropic 官方账号在 Cursor 市场发布的 VS Code 扩展版本 2.1.313 被植入后门,并持续分发近 12 小时。恶意代码试图建立持久化 SSH 访问,受影响用户应立即开展排查。
阅读全文OpenAI、Google、微软和Anthropic表示将支持一种共享信号,让网站运营者通过robots.txt统一告知多家AI公司是否允许抓取内容。该标准仍在推进中,但有望降低出版商逐家设置规则的成本。
阅读全文Google表示,搭载Tensor Processing Unit的Project Suncatcher卫星已在轨启动TPU,并让机载Gemma 4根据提示生成了一首太空主题俳句。这次演示是其探索太空AI数据中心的早期测试。
阅读全文生成式AI带来的数据增长,正在让磁带重新成为企业存储基础设施的一部分。富士胶片计划投资约100亿日元,在2028年前将磁带产能提升至2025财年的五倍。
阅读全文Google的Suncatcher原型卫星已在轨运行,并首次让搭载的TPU执行Gemma 4推理任务。它能写诗,但更重要的任务是验证芯片在辐射、热应力和有限供电条件下能否稳定工作。
阅读全文