CCTest · Blog
大模型为何会回答无解问题?研究发现关键不在“不会识别”
大语言模型
cctest.ai
大语言模型

大模型为何会回答无解问题?研究发现关键不在“不会识别”

一项针对1.7B至70B规模指令模型的研究发现,模型往往已经在内部识别出数学和代码问题的结构性不可解,却没有把这一信号路由为拒答行为。问题更像是“识别—行动”之间的错配,而非能力缺失。

阅读全文
CCTest · Blog
马萨诸塞州收紧数据中心规则:超25MW项目须匹配100%清洁电力
政策与监管
cctest.ai
政策与监管

马萨诸塞州收紧数据中心规则:超25MW项目须匹配100%清洁电力

马萨诸塞州州长莫拉·希利发布行政命令,要求峰值需求超过25兆瓦的数据中心自行解决电力来源,并以清洁能源满足全部用电需求。该州也暂停数据中心销售税豁免申请,成为近期第三个收紧数据中心建设的州。

阅读全文
CCTest · Blog
美国指控六家中国AI公司大规模蒸馏前沿模型
政策与监管
cctest.ai
政策与监管

美国指控六家中国AI公司大规模蒸馏前沿模型

美国国家安全局、网络安全与基础设施安全局及联邦调查局指控六家中国AI公司,通过批量调用和提示注入等方式提取美国前沿模型能力。相关机构同时建议美国AI企业在不通知用户的情况下,将疑似攻击账号切换至能力较弱的模型。

阅读全文
CCTest · Blog
BeaconKV:用“信标查询”压缩长推理模型的 KV 缓存
记忆与上下文
cctest.ai
记忆与上下文

BeaconKV:用“信标查询”压缩长推理模型的 KV 缓存

长链式推理会让大模型的 KV 缓存随序列长度持续膨胀,成为推理部署中的主要内存瓶颈。BeaconKV 通过保存少量代表全局查询模式的“信标查询”,预测哪些历史上下文可能被再次访问,在压缩缓存的同时尽量维持推理效果。

阅读全文