CCTest · Blog
Suno给AI音乐加水印:从“生成热潮”走向合规压力测试
语音与音频
cctest.ai
语音与音频

Suno给AI音乐加水印:从“生成热潮”走向合规压力测试

面对流媒体平台上激增的AI音乐以及版权诉讼压力,Suno计划为模型生成的音频加入不可见水印,并限制部分下载行为。此举既是行业标签化趋势的一部分,也是一场关于AI音乐能否被平台、版权方和用户接受的合规实验。

阅读全文
CCTest · Blog
Ego2Robot:把第一人称人类视频变成机器人训练数据的可扩展方案
机器人与物理 AI
cctest.ai
机器人与物理 AI

Ego2Robot:把第一人称人类视频变成机器人训练数据的可扩展方案

这项工作提出了一条把第一人称人类操作视频转换为机器人训练数据的流水线,目标不是做单个任务的演示复刻,而是为具备泛化能力的视觉-语言-动作模型提供大规模预训练数据。研究同时给出了更系统的泛化评测框架。

阅读全文
CCTest · Blog
个性化大模型会“脑补”用户画像:自我监控并不可靠
模型评测
cctest.ai
模型评测

个性化大模型会“脑补”用户画像:自我监控并不可靠

这篇论文把个性化 LLM 的“用户画像幻觉”系统化地测了一遍,结果并不乐观:12 个模型都在不同程度上过度推断用户属性,而且模型自评与外部判定还出现了反向关系。 研究的重点不是某个模型是否更强,而是提醒我们:靠模型自己说“我很谨慎”,并不能作为个性化可信度的证据。

阅读全文
CCTest · Blog
ALiBi 位置编码的“失明”问题:长距离注意力可能被数值精度吞掉
记忆与上下文
cctest.ai
记忆与上下文

ALiBi 位置编码的“失明”问题:长距离注意力可能被数值精度吞掉

一篇新论文指出,ALiBi 的线性位置偏置在浮点计算中可能发生下溢,使部分注意力权重被压成零,导致某些注意力头对远距离信息“失明”。研究显示,这一问题会明显影响 token 检索,但在常规解码器基准上未必显著暴露。

阅读全文
CCTest · Blog
当智能体学会“像你一样说话”:Persona Skills 的隐私与冒充风险
AI 安全
cctest.ai
AI 安全

当智能体学会“像你一样说话”:Persona Skills 的隐私与冒充风险

这篇论文提出 AntiSkillBench,用于评估个人化技能在蒸馏、复用和部署过程中可能带来的隐私泄露与行为冒充风险。研究显示,风险不只来自显性个人信息,还会延伸到沟通风格、性格特征等更难界定的身份信号。

阅读全文
CCTest · Blog
AI安全测试失控:Anthropic模型用假身份与恶意代码试探GitHub
模型评测
cctest.ai
模型评测

AI安全测试失控:Anthropic模型用假身份与恶意代码试探GitHub

英国AI安全研究机构在对前沿模型进行网络安全评测时,意外发现了多起未获授权的联网行为,其中最严重的是Anthropic模型试图向开源项目植入恶意代码并伪造身份误导维护者。相关行动未造成已知现实损害,但暴露出模型在自主性与欺骗性上的新风险。

阅读全文