接着我上一个Indexed插件的视频
我想在本地有一套embedding和向量数据库来给看过的视频和文章建立索引,下次找的时候可以直接定位到视频的几分几秒
同时我不是也买了一台M5U,它有32核的ANE
所以我就开始研究怎么把WeMM这个embedding模型跑在ANE上,性能如何
做了好几天测试,把不同路径的实现方法都跑通了
结论就是ANE提升巨大,把一部分处理交给ANE速度快,能耗低。我还实现了一种忽略速度只考虑能耗的版本,可以完全让ANE做后台服务不影响你前台的Agent
综上所述,人类对ANE的开发还远远不够
苹果硬件的价值随着软件发展还有更多空间
实验用的是我的丐版M4 Mini,M6 Mini比它多一个16核ANE,所以理论性能还有更多提升
M6值得入手
回头发个视频
#科技数码howto #数码产品使用体验 #后悔没早入的数码产品 #macmini

