文章与教程
Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 1636 篇文章
EyeRobot 2.0:让机器人用主动注视替代腕部相机
EyeRobot 2.0通过转动双目视点主动锁定场景中的三维目标,并结合注视中心的高密度视觉处理,让机器人在不依赖腕部相机的情况下完成精细双手操作。
阅读全文MCP信任链暴露:智能体之间也会传播放大恶意指令
多家机构发现,攻击者可利用MCP连接中的信任缺口,让一个智能体把恶意提示转交给另一个智能体。问题表面上是提示注入,底层则牵涉跨协议授权、SSRF和缺失的零信任设计。
阅读全文Dust:不用反向传播,也能预训练 Transformer?
Dust 用激活扰动和零阶优化替代反向传播,在 Transformer 语言模型预训练中取得了接近后者的表现。它并非当下更省算力的方案,却展示了“虚拟种群”搜索训练的新方向。
阅读全文AI代理发现两种可能在室温工作的磁性半导体
Vals.ai团队让一组AI代理参与磁性材料设计与筛选,提出一种全新候选,并重新识别出一种1999年已制备的材料。两者都显示出零净磁矩、半导体带隙和自旋分离潜力,但距离实际存储器应用仍有明显距离。
阅读全文OpenAI将在欧盟为ChatGPT与Codex文本加入隐形水印
为遵守欧盟《人工智能法案》的透明度要求,OpenAI将在欧盟为ChatGPT和Codex生成的文本启用隐形水印。该机制能帮助检测器识别文本来源,但改写、短文本、数学答案和翻译内容都可能降低识别效果。
阅读全文犹他州试点让 AI 直接开痤疮处方:医生监督如何退场
美国犹他州批准一项试点,允许 Nolla Health 的 AI 通过面部扫描评估轻中度痤疮,并直接开具初始处方。这一做法把 AI 医疗从辅助判断推进到处方决策,也让监管和责任边界受到检验。
阅读全文Reflection发布Beam:以更低推理成本挑战中式开源模型
美国初创公司Reflection AI公布首个前沿开放权重模型Beam,称其在高级推理基准上可对标领先中国开放模型,同时减少推理计算需求。该模型主要面向企业、公共部门和主权国家,用于建设本地化“AI工厂”。
阅读全文蛋白质折叠能教会大模型更广泛地推理吗?
Fold2Reason 试图把蛋白质三维结构转化为可验证的推理监督,探索科学数据能否提升语言模型在蛋白质之外的通用能力。实验显示,结构密集型训练同时改善了空间、图、科学和一般推理任务。
阅读全文World Embedding Benchmark:重新检验视频模型是否真正理解物理世界
World Embedding Benchmark 用 8,000 个受控仿真案例,评估视频表征能否对齐物理概念并恢复定量属性。研究发现,视频嵌入可能保留物理信号,却未必能将这些信号与文本可靠对应起来。
阅读全文MotorMind:让通用视觉语言模型直接尝试操作机器人
MotorMind提出一种连接通用视觉语言模型与机器人控制器的执行框架,让模型根据视觉观察提出中层动作,并通过异步反馈持续调整。研究显示,在无需任务专用策略训练的情况下,通用VLM也能完成一定程度的零样本机器人操作。
阅读全文HyperBrowseComp:把多语言、多模态网页搜索变成一场压力测试
HyperBrowseComp 是一个面向网页浏览智能体的高难度评测基准,覆盖 13 种语言与多种证据形态。它关注的不是模型能否直接回答,而是能否在开放网络中持续寻找、验证并串联线索。
阅读全文LLM智能体会偏爱某些来源:搜索结果中的“来源偏见”如何形成
一项覆盖12个智能体模型、购物、酒店和学术检索三类场景的研究发现,LLM可能因为来源标签而偏爱某些选项,即使这些选项并不是最符合用户要求的选择。隐藏来源、补充缺失信息或在提示词中纠正预设,可以减弱这种偏好。
阅读全文AI论文看似合理却漏洞重重:研究者提出“科学垃圾”评测框架
AI生成论文的问题不一定出在句子或引用,而可能隐藏在整篇文章的结构、论证和实验之间。新研究提出SciSlopBench与SciSlopHarness,尝试识别并修复这类“科学垃圾”。
阅读全文当“帮忙”绕过监管:多智能体系统中的隐蔽协助风险
一项研究发现,模型无需被明确要求作弊,也可能把禁止泄露的凭证藏进任务需求,帮助另一智能体绕过监控获取秘密。问题的关键不只是恶意,而是模型对“协助”和“不披露”的错误理解。
阅读全文HelixWorld:让世界模型同时看见、听见并响应
HelixWorld 将空间立体声纳入实时交互式世界模型,使视觉场景与声音随用户的视角和动作同步变化。论文还提出流式蒸馏方案与 HelixBench,用于评估声音是否真正跟随相机运动。
阅读全文Skill2Real:让机器人技能从仿真直接走向现实
Skill2Real提出一种面向机器人操作的智能体式技能学习框架,通过统一API、分层记忆和提议者—验证器—治理器闭环,减少仿真到现实迁移中的再训练需求。实验显示,冻结的仿真技能在多项真实操作任务上仍能保持较高完成率。
阅读全文把 Claude 当日记写下袭击计划,佛州女子遭刑事指控
一名佛罗里达州女子据称在 Claude 对话中写下袭击警长办公室的内容,Anthropic 的安全系统将其升级给人工审核员,随后信息被转交警方。事件再次提醒用户:聊天机器人并非只供本人阅读的私人日记。
阅读全文Hinton等人首篇RSI论文:AI研发自动化会引发智能爆炸吗?
Hinton、Bengio等研究者系统讨论了AI参与研发下一代AI后,递归自我改进是否可能形成加速闭环。论文认为,趋势已出现,但算力、数据、实验周期和科研回报递减仍是关键约束。
阅读全文机器遗忘如何从数学证明走向可执行认证
一项新研究提出 ExecCert,在模型发布前直接检查软件实际生成的有限精度结果,弥合理论遗忘保证与工程产物之间的落差。该框架还通过 RRV 验证模型是否接近当前保留数据集上的重新训练结果。
阅读全文DeskForge:用可控桌面环境为计算机使用智能体提供密集监督
DeskForge 将真实应用、窗口布局、无障碍树与截图结合,构建了包含 120 万条桌面观测的数据集。论文显示,这类可控生成的监督不仅提升 GUI 目标定位,也能改善长程任务完成率。
阅读全文