加密指令绕过安全护栏,Grok被诱导窃取用户数据
研究人员发现,攻击者可将恶意提示加密后藏在网页中,诱导Grok自行解密并执行,从而把用户姓名、位置和聊天记录发送至攻击者服务器。该案例暴露出传统静态内容过滤难以覆盖工具输出与运行时状态。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 2320 篇文章
RSS 订阅研究人员发现,攻击者可将恶意提示加密后藏在网页中,诱导Grok自行解密并执行,从而把用户姓名、位置和聊天记录发送至攻击者服务器。该案例暴露出传统静态内容过滤难以覆盖工具输出与运行时状态。
阅读全文Slack正在推出Slack Code,将代码任务、AI代理和团队讨论集中到专属频道中。团队成员可以查看代码变更、预览网页效果,并在上线前提供反馈和审批。
阅读全文Binance推出Agent OS,让开发者可将ChatGPT、Claude Code、Cursor等AI工具接入交易、支付和链上服务。代理能够代用户下单,但风险控制主要依赖用户配置子账户和权限。
阅读全文一项研究提出用序列标注替代孤立的Token打分,将文本统计、NLI蕴含关系和语言模型惊异度融合起来检测幻觉。BiGRU在RAGTruth上取得0.840 AUC,并显示时间上下文比单纯增加模型容量更关键。
阅读全文FM-Bench把大模型放进一个持续20年的足球管理环境,观察它们如何在预算、交易、续约、青训和董事会压力下做出连贯决策。结果显示,真正拉开差距的不是模型规模或推理花费,而是管理行为。
阅读全文Co-RL提出一种协作式多智能体强化学习框架,让多个不共享参数的模型通过彼此反馈获得奖励。在没有人工标注或可验证真值的情况下,模型仍能提升文本与多模态推理表现。
阅读全文OmniScientist试图把AI科学家的能力从文本和预处理特征扩展到图像、信号、音频、视频、三维结构等异构原始数据。系统通过感知、构思、实验和写作环节,完成从研究问题到论文草稿的端到端流程。
阅读全文Zetta 提出一种闭环具身智能框架:在冻结基础策略的前提下,在线进化运行时批评器与恢复技能。它将动作级干预、回合级复盘和验证式更新结合起来,提升机器人在复杂环境中的执行可靠性。
阅读全文杰富瑞分析师围绕五类真实办公任务测试了八款全球主流Agent,阿里千问办公在综合表现和隐含Harness评分上排名第一。测试也显示,Agent竞争正从单纯比模型能力转向比任务完成质量与执行成本。
阅读全文StartupBench不再从研究者预设的任务出发,而是从已有市场需求的AI创业产品及其工作流中构建端到端评测。结果显示,即使是表现最强的模型,也只能可靠完成约30%的任务。
阅读全文一项基于AI-Infra-Guard的研究,对DeepSeek Harness进行了1.456万次受控执行测试。结果显示,隐藏Unicode、伪造完成信息等间接提示注入方式,仍可能影响代理行为,防护重点应从模型本身延伸到工具与敏感操作之间。
阅读全文Agentic ESOpt提出以进化策略替代部分长程智能体强化学习流程,通过参数空间搜索完成全参数优化,并以较低的训练显存需求适配更大的语言模型。
阅读全文一项覆盖多种记忆存储方式的统一评估显示,记忆系统的优劣取决于任务、上下文长度和运行成本。对长期运行的智能体而言,动态选择记忆基底可能比寻找单一最优方案更重要。
阅读全文PTXBench 将功能正确性、目标指令运行情况与实际加速效果放到同一套测试中,检验大模型能否利用架构特定 PTX 优化 GPU 内核。结果显示,生成正确代码与获得真实性能收益之间仍有明显鸿沟。
阅读全文ASI-Bench试图测量AI最难被传统基准覆盖的能力:自主探索未知、选择研究方法,并将想法转化为可验证结果。测试显示,一旦人类逐步撤去方法指导,现有系统的表现会显著下滑。
阅读全文HarnessRisk 将智能体安全拆分为六个运行阶段,并通过 128 个沙盒案例考察模型与 harness 如何共同应对嵌入不可信工作流的攻击指令。研究显示,安全风险并不只来自模型输出,也可能源于配置、状态和权限控制。
阅读全文《Personalized Auto-Research》提出“个性化自动科研”概念:AI 科研助手应理解研究者的知识积累、方法能力与合作网络,而不是只围绕一个研究目标生成通用方案。
阅读全文EditBridge提出一种面向超高分辨率图像编辑的扩散桥框架,不再把低分辨率编辑结果简单交给独立超分辨率模型处理,而是利用原始高清图像补回真实细节。论文称,该方法可在2K分辨率下实现3.6至8.4倍加速,并将4K编辑耗时控制在61秒。
阅读全文一项跨基准、框架和模型的研究发现,Agent Skills的主要价值并非补充事实,而是把混乱的执行轨迹转化为稳定的操作程序。与此同时,技能检索会随着候选池扩大迅速成为新的瓶颈。
阅读全文Agent Lightning v1.0提出“框架原生智能体强化学习”范式,让部署时负责工具调用、上下文管理和流程控制的智能体框架直接参与模型后训练。实验显示,仅用6000个训练样本和有限算力,Qwen3.5-9B在SWE-bench Verified上的成绩从41.8%提升至56.4%。
阅读全文MathForm 将 Mathlib 知识检索、编译器诊断和语义一致性反馈引入数学自动形式化流程,并据此构建了约 367K 条 Lean 4 验证数据。基于该数据训练的 8B 模型,在多项基准上超过了若干专用 32B 模型。
阅读全文