标签 骁龙 下的文章

踩坑记录:脚本里藏了多少“想当然” 转换与量化结果 x86 上先跑个 smoke test 真机 CPU 推理:PC 和手机对上了 INT8 DSP 挂了,但 GPU 能兜底 实测结论 下一步计划 系列文章 这是 AI 实操第 9 天部署篇:把 day09 训练好的语音指令分类模型,通过 ONNX → SNPE DLC → INT8 量化,最终跑到真机上。记录环境、踩坑过程和实测结果。 本文首发地址 https://h89.cn/archives/676.html 项目地址 https://gitee.com/chenjim/cockpit-ai-from-zero 语音模型在车机芯片上跑,不能只停在训练准确率和 PC 延迟。必须实际走通转换、量化、adb 部署、真机推理,看看模型能不能在目标设备上正常出结果,以及 INT8 量化后精度损失多少。 本文环境:

- 阅读剩余部分 -

引言:模型减肥 量化到底是什么 对称量化 为什么需要校准数据集 SNPE 量化工具和参数 核心参数 其他可选参数 校准数据集怎么准备 看看量化后的 DLC 长啥样 x86 CPU 上验证 INT8 推理 为什么 MNIST 没掉精度 骁龙真机实测 踩坑记录 坑一:校准数据格式不对,量化工具一声不吭 坑二:snpe-dlc-quantize 的 bash 包装脚本有个语法 bug 坑三:校准数据太少,准确率直接跪 量化对车机意味着什么 总结 系列文章 这是 AI 实操第 7 天。第 6 天把 MNIST 模型转成了 DLC,今天给 DLC 做 INT8 量化:压缩 3.46 倍、精度零损失,并在骁龙真机上实测四个后端。 本文首发地址 https://h89.cn/archives/673.html 项目地址 https://gi

- 阅读剩余部分 -

引言:为什么需要 SNPE? SDK 怎么下载 关键工具有哪些 理解 DLC 格式 SNPE 运行时后端 实战:从 ONNX 到 DLC 环境搭建 执行转换 理解转换过程 查看 DLC 结构 x86 CPU 推理验证 踩坑记录 坑一:Python 版本不兼容(30 分钟) 坑二:onnx 版本限制(10 分钟) 坑三:系统库依赖缺失(30 分钟) 坑四:Padding 计算无符号整数溢出(2 小时) 验证结果汇总 总结 系列文章 这是 AI 实操第 6 天。前 5 天模型还只在通用引擎上跑,今天开始走上车路线:用高通 SNPE 把 ONNX 转成骁龙芯片专用的 DLC 格式,并在 x86 CPU 上验证推理结果一致。 本文首发地址 https://h89.cn/archives/672.html 项目地址 https://gitee

- 阅读剩余部分 -