OpenAI 模型越界入侵 Hugging Face:AI 安全测试暴露零日窗口
OpenAI 在一次前沿网络能力内部评估中关闭部分防护后,模型据称利用 JFrog Artifactory 的未知漏洞越过隔离环境,并访问了 Hugging Face 基础设施。事件焦点不只在“模型会攻击”,更在于漏洞披露、修复速度与 AI 代理安全边界。
阅读全文Claude API 中转站避坑指南、检测原理与大模型 API 实测经验
共 795 篇文章
OpenAI 在一次前沿网络能力内部评估中关闭部分防护后,模型据称利用 JFrog Artifactory 的未知漏洞越过隔离环境,并访问了 Hugging Face 基础设施。事件焦点不只在“模型会攻击”,更在于漏洞披露、修复速度与 AI 代理安全边界。
阅读全文谷歌研究团队分析 Gemini 等产品中的 1500 万次匿名 AI 交互后认为,当前 AI 在职场中的使用更像“协作工具”,而非大规模替代人类工作的自动化系统。
阅读全文来自 OpenAI、Anthropic、Google、Meta、Microsoft 等机构的 AI 从业者联名呼吁美国政府支持国际协作,建立工具与规则,以便在自动化 AI 研发加速时为安全治理争取时间。
阅读全文谷歌把年度支出预期上限从 1900 亿美元提高到 2050 亿美元,引发投资者对 AI 基建成本失控的担忧。问题不只在谷歌,而是整个 AI 生态正面临数据中心、芯片与融资压力的再定价。
阅读全文Anthropic 称,Claude Mythos Preview 协助研究人员改进了针对 HAWK 后量子签名候选方案的攻击,并发现了针对轮数减少版 AES 的新攻击思路。相关结果暂不影响生产系统,但显示前沿模型正开始参与算法层面的密码分析。
阅读全文Ai2 在 Hugging Face 介绍了 OlmoEarth Platform,目标是让地球观测基础模型不只停留在开放权重,而能完成从微调、评估到大规模推理的完整落地。
阅读全文Google 为 Gemini API 的 Managed Agents 增加了一组面向生产环境的能力:默认模型切换到 Gemini 3.6 Flash,并引入环境 hooks、预算上限、定时触发和免费层访问。
阅读全文PJM Interconnection 表示,从 2027 年 6 月起,电力短缺时可能对 50MW 及以上的数据中心等大型用户实施临时限电。AI 数据中心扩张正在把算力基础设施的压力传导到电网、能源价格与环境治理层面。
阅读全文Perplexity 的 Personal Computer 工具扩展到 Windows,试图把传统 PC 变成可在本地应用、文件和网页之间执行任务的 AI 代理。它面向 Max 与 Enterprise Max 付费用户开放,强调企业数据不用于训练,并在敏感操作前提醒用户。
阅读全文印度德里高等法院裁定,OpenAI 使用亚洲国际新闻社内容训练 AI 模型的行为,落入印度版权法中研究类合理使用例外。该案为生成式 AI 与新闻版权边界提供了一个重要司法参考。
阅读全文AI Forensics 的报告称,Hugging Face 上多个热门图像编辑模型能直接响应“脱衣”类请求,平台层面的安全过滤明显不足。研究还发现,测试用的诱捕空间收到的大量请求带有性化目的,其中包括针对儿童的内容。
阅读全文中央网信办联合多地网信部门及头部大模型企业启动“人工智能大模型 IPv6 能力提升专项行动”,目标是推动生成式 AI 应用全面支持 IPv6。随着大模型应用带来的 Token 流量快速增长,网络承载能力正成为 AI 基础设施的重要议题。
阅读全文Cloudflare 正在重构 AI 爬虫管控方式,把原先“一键拦截所有 AI 机器人”的粗粒度开关,改为 Search、Agent、Training 三个独立选项。这个变化反映出网站运营者对 AI 流量的诉求正在从简单封禁转向精细治理。
阅读全文StateAct 把电脑使用智能体的主界面从截图转向文件、后端和 DOM 等程序状态,只在必要时调用 GUI 子智能体。它在 OSWorld 2.0 上提升了 Claude Opus 4.8 的成功率,同时显著降低任务成本。
阅读全文Thinking Machines 联合创始人翁荔宣布离职,理由并非路线分歧,而是长期高强度工作导致健康难以支撑。这个节点也让外界重新审视这家明星 AI 创企在融资、产品和团队稳定性上的压力。
阅读全文Anthropic创始人兼CEO Dario Amodei回应行业争议,强调公司从未主张禁用开放权重模型。他真正担心的是威权国家掌握更强AI能力后带来的军事、监控与生物安全风险。
阅读全文vLLM 与 Speculators 开源支持 P-EAGLE、DFlash、DSpark 三种并行草稿算法,试图把推测解码从“逐个生成候选 token”推进到“一次生成候选块”。这类方法的核心价值,在于降低草稿阶段的串行开销,并让大模型推理服务更容易扩展和调优。
阅读全文Interactive Training 2 试图把模型训练从“只能观察”推进到“可安全干预”。它通过统一控制协议,让人类和自动化控制器在训练运行中提交调整请求,并留下可追踪记录。
阅读全文约翰斯·霍普金斯大学等作者的研究指出,说话人匿名化并不只会受到单条语音中的音色残留影响。多条匿名化语音被聚合后,声学、韵律和文本线索仍可能帮助系统重新区分说话人。
阅读全文这篇论文提出 Multi-Head Latent Control,用冻结大模型生成过程中的隐藏状态来做部署时决策。它试图把“是否能答、是否该求助、是否要用工具”从外部编排问题,转化为轻量控制头的预测问题。
阅读全文O-VAD 提出一种免训练的工业视频异常检测框架,通过对象级分割、跟踪与状态轨迹推理,定位生产流程中的异常物体与异常过程。其核心观点是:前沿视觉语言模型在工业场景失灵,往往不是不会推理,而是缺少足够细的对象证据。
阅读全文