众力资讯网

眼镜里的1比特AI,省在哪? AI模型开始往眼镜里装。PrismML在9月23日

眼镜里的1比特AI,省在哪?
AI模型开始往眼镜里装。PrismML在9月23日公布Bonsai端侧演示:视觉语言模型在骁龙AR1 Gen 1平台眼镜上本地运行。 最容易看错的是“0.43GB”。官方脚注说,这是1.7B语言模型的权重占用,对照4bit版本为1.66GB;它不是整副眼镜、也不是整个视觉语言系统的总内存。 “1比特”也不代表所有模块:这套2B模型由1.7B的1bit语言模型,加上0.3B的4bit视觉编码器组成。 这些数字来自官方在4GB内存、1024 token上下文及内部QNN SDK条件下的测试,本文未独立实测。公告没有给出消费者安装入口或完整零售设备清单。 这项进展的价值,是尝试把更多计算留在眼镜端。判断它能否成为好用的产品,还要看完整系统占用、响应时间、发热和续航;不能把权重缩小直接换算成整机省电倍数。