车载语音指令识别：SNPE 转换与真机部署实测记录
本文记录了车载语音指令识别模型从ONNX到SNPE DLC再到INT8量化的完整真机部署实测过程，详细梳理了脚本变量覆盖、库路径缺失、校准数据预处理不一致等六大踩坑问题，并在骁龙8 Elite（SM8750）手机上完成CPU与GPU推理验证。结果显示FP32 CPU输出与x86一致，INT8模型压缩3.65倍，但DSP因SDK与芯片驱动不兼容失败，最终以GPU作为兜底方案。适合关注端侧AI部署、模型量化及高通SNPE工具链的开发者参考。
标签 INT8 下的文章
零基础搞懂 SNPE 模型量化：INT8 精度损失 = 0% 的秘密
本文深入解析零基础实现SNPE模型INT8量化的完整流程，通过实际案例展示将FP32 DLC压缩3.46倍且精度零损失的方法。详细说明量化原理、对称量化、校准数据集准备、per-channel量化参数设置，以及x86 CPU和骁龙真机四个后端验证结果。同时分享踩坑经验：校准数据格式、数据量不足导致精度下降等问题，并探讨量化在车载AI和端侧大模型场景的应用价值。适合了解高通SNPE工具链、模型量化部署的开发者参考。
小白用 TensorRT 给模型加速：ONNX 转 Engine 踩坑实录
本文面向AI实操新手，详细记录将ONNX模型编译为TensorRT Engine的完整踩坑过程。内容涵盖TensorRT 11.x API重大变更、FP16/INT8精度转换新流程、Windows环境安装注意事项、三层架构核心概念，以及FP32与FP16精度模式对比。文章通过菜谱与名厨的生动比喻，解释算子融合、精度校准、自动调优等加速原理，并附ONNX转Engine的具体代码步骤，帮助读者绕过常见报错，在GPU上实现模型高效推理加速。适合初学者快速上手TensorRT。