PrismML将1比特小模型带到高通智能眼镜平台
智能眼镜要真正成为日常计算设备,关键不只是摄像头、显示屏和语音交互,还在于能否在有限功耗下持续理解用户眼前的世界。总部相关信息显示,AI初创公司 PrismML 正在为这一目标提供一种模型侧方案:将其小型语言模型适配到高通智能眼镜平台,让部分视觉语言任务直接在设备端完成。
发生了什么
在高通骁龙峰会上,高通展示了 PrismML 的1比特 Bonsai 大语言模型。该模型面向基于 Snapdragon AR1 Gen 1 Platform 的AI智能眼镜,采用约20亿参数的视觉语言版本,用户理论上可以针对眼前看到的物体进行实时提问。
PrismML此前的技术主张,是在大幅压缩模型的同时尽量保留能力。按现有披露,其方法可将模型规模缩小约四倍,并在标准基准测试中维持几乎全部表现。此次面向眼镜的版本,则进一步针对视觉和语言场景进行调整。
核心要点
- 端侧运行:模型的目标是在眼镜本地处理相关请求,而不是将每次图像理解都发送到云端。
- 低比特设计:1比特模型有助于降低存储与推理压力,适合受电池、散热和芯片资源限制的可穿戴设备。
- 视觉语言交互:约20亿参数的模型被调优用于理解图像并结合语言回答问题。
- 开放权重取向:PrismML希望推动能够运行在设备上的开放权重AI,减少对封闭式模型实验室及其云端计算资源的依赖。
- 仍处于展示阶段:目前并没有已经宣布搭载 PrismML 模型的智能眼镜产品。
意义与局限
如果视觉问答能够在设备本地完成,智能眼镜就不必在所有场景下依赖网络连接,响应速度和数据控制也可能更适合可穿戴设备。对涉及环境画面、个人空间或日常活动的应用而言,本地处理还提供了不同于云端服务的隐私路径。不过,端侧运行并不自动等于隐私得到保障,实际效果仍取决于产品如何处理图像、日志和权限。
更重要的是,这次合作反映出模型竞争正在从单纯追求参数规模,转向同时关注压缩效率、芯片适配和实际功耗。高通提供的是面向智能眼镜的硬件平台,PrismML则试图让较小模型更充分利用这类设备已有的计算能力。两者结合,可能为端侧多模态AI打开空间,但模型在真实环境中的准确性、交互体验和续航影响,仍需要产品发布后的验证。在目前没有具体眼镜产品公布的情况下,这更像是一次平台能力展示,而不是已经完成商业落地的产品发布。
评论
正在确认登录状态……
正在加载评论……