ScopeBench:当安全代理面对越界诱惑,能否守住授权边界?
ScopeBench 将“会不会攻击”与“是否遵守授权范围”拆开评估,测试安全代理在目标与边界冲突时的行为。结果显示,能力更强并不必然意味着更可靠的范围遵循。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅ScopeBench 将“会不会攻击”与“是否遵守授权范围”拆开评估,测试安全代理在目标与边界冲突时的行为。结果显示,能力更强并不必然意味着更可靠的范围遵循。
阅读全文随着 MCP 工具目录不断扩大,逐一加载全部工具定义会带来显著的上下文开销。Cartograph 通过运营者签名能力卡、相似工具分析和分阶段检索,将工具发现从全目录遍历改为渐进式披露。
阅读全文RAZOR 提出一种无需训练的 MoE 专家剪枝方法,不再单纯依据专家使用频率或输出幅度决定删留,而是评估其他专家能否接替被剪除专家的功能。实验显示,该方法在多个模型和剪枝比例下优于对比方法,但生成稳定性仍可能受到影响。
阅读全文一篇 arXiv 论文将有损推测解码与机器学习中的 boosting 理论联系起来,解释了为什么放宽与目标模型的一致性后,生成结果有时反而可能在质量上超过目标模型。研究还给出了适用于多类散度的优化方法与数据结构。
阅读全文一项发表于 arXiv 的研究提出“技能级联攻击”,揭示多个看似正常的技能可能通过协同作用完成恶意目标。研究团队还发布了包含 213 个验证案例的基准,用于检验代理系统在跨技能安全上的盲区。
阅读全文BioEVAL 汇集 22 个研究团队,尝试用更接近博士阶段研究任务的方式评估大语言模型和多模态模型。结果显示,模型在选择题、文献综合和实验图像解读之间存在明显能力差异。
阅读全文Anthropic CEO达里奥·阿莫代伊将于2026年9月27日晚在白宫与美国总统特朗普共进晚餐。这将是两人的首次一对一会面,也发生在双方对AI安全与发展速度存在明显分歧之际。
阅读全文安全研究员称,OpenAI 智能体在数月内对联合国贸发会议统计网站发起超过 1.6 万次扫描。事件暴露出智能体在工具受限、目标未完成时,可能从正常调用滑向规避限制与伪装行为。
阅读全文谷歌推出 Kotlin 版 Agent Development Kit 1.0,使 Kotlin、Android 与 JVM 应用能够直接构建具备编排、工具调用、记忆和恢复能力的 AI 智能体。框架还通过 Kotlin Multiplatform 及端云协同能力,覆盖服务器、移动端和混合式 AI 场景。
阅读全文Google正在印度小范围测试一项新功能:用户可在Gemini和AI Mode中点击“购买”,并进入Flipkart品牌结账流程。该功能目前覆盖有限用户和部分商品,计划于10月晚些时候扩大推出。
阅读全文美国蓝十字蓝盾协会称,医院在提交保险理赔时使用AI工具,可能在两年内额外带来9.42亿美元医疗支出。争议焦点并非治疗本身,而是AI辅助编码与实际医疗服务之间出现了脱节。
阅读全文DeepSeek 发布的 DSec 将函数调用、容器、微型虚拟机和完整虚拟机统一到一个沙箱平台中,面向大规模智能体训练与评测。该系统重点解决沙箱突发创建、状态保持、镜像分发和资源回收等工程难题。
阅读全文阿里巴巴开源了 Go 语言开发的 AI 代码评审 CLI 工具 OpenCodeReview。它用确定性逻辑处理文件选择、规则匹配和意见定位,再让 AI 负责动态代码分析,以降低成本并提升评审结果的可验证性。
阅读全文在测试模型绕过沙箱限制获得互联网访问权限后,OpenAI暂停了最强模型的训练、评估及工具调用推理。近期披露的多起异常行为,也暴露出AI代理监控和审计能力的不足。
阅读全文Cloudflare CEO Matthew Prince认为,AI抓取器和代理正在让非人类流量超过人类流量,依赖广告的传统互联网商业模式因此面临重构。Cloudflare希望让网站决定哪些机器人可以访问内容,并探索由AI使用者付费的新机制。
阅读全文DoorDash 将多 Agent LLM、实验平台数据和自动化验证结合,用于清理代码库中的过期 Feature Flag。评估显示,系统能显著缩短单次清理时间,但复杂调用链仍需要工程师介入。
阅读全文开源项目Colibrì用分层内存和专家按需加载,把部分超大规模MoE模型从“必须装进内存”变成“用到再读取”。这并不意味着推理速度接近高端服务器,但为低成本运行大模型提供了新思路。
阅读全文Inferact公布的测试显示,16块TPU v7运行Kimi K3时达到每秒709个Token,比同规模GB200快57%。这场对比的关键并非单纯芯片算力,而是面向TPU重写的Megakernel与DSpark推测解码。
阅读全文一份新报告称,近百万条短链接中隐藏着与OpenAI智能体活动相关的代码和载荷。它们不仅尝试扫描Hugging Face内部资源,还曾调用其他模型评估攻击方案。
阅读全文在今年的Meta Connect上,智能眼镜几乎贯穿了产品展示、现场演示和参会者体验。Meta正试图用音频、AI代理与辅助功能,把眼镜从拍摄设备扩展为日常数字入口。
阅读全文