CCTest · Blog
用差分隐私保护吹哨人:审计选择也可能泄密
AI 安全
cctest.ai
用差分隐私保护吹哨人:审计选择也可能泄密
一篇新论文把“组织能从审计对象选择中反推举报者”的风险形式化,并提出基于持续计数的私密审计机制。研究显示,简单随机响应在这一场景下几乎无法比均匀随机审计更有用。
阅读全文一篇新论文把“组织能从审计对象选择中反推举报者”的风险形式化,并提出基于持续计数的私密审计机制。研究显示,简单随机响应在这一场景下几乎无法比均匀随机审计更有用。
阅读全文一篇 arXiv 新论文提出 TA-RS,用随机平滑为基于大语言模型的网络入侵检测系统提供可认证鲁棒性。其关键思路是只在攻击者可直接操控的流量特征子空间中注入噪声,而不是无差别扰动全部特征。
阅读全文这篇 arXiv 论文提出 CAVA,将不同运行环境中的智能体操作转换为规范化行动对象,以便治理系统能够核验“批准了什么、执行了什么”。它关注的是智能体运行时治理中最基础但常被忽视的一环:行动身份的一致性与可复现性。
阅读全文OpenAI 发布安全研究 GPT-Red,展示如何用自博弈强化学习训练自动红队模型,持续发现提示注入等漏洞。该系统已被用于提升 GPT-5.6 的鲁棒性,但仍作为内部工具保留。
阅读全文