车载语音指令识别：SNPE 转换与真机部署实测记录
本文记录了车载语音指令识别模型从ONNX到SNPE DLC再到INT8量化的完整真机部署实测过程，详细梳理了脚本变量覆盖、库路径缺失、校准数据预处理不一致等六大踩坑问题，并在骁龙8 Elite（SM8750）手机上完成CPU与GPU推理验证。结果显示FP32 CPU输出与x86一致，INT8模型压缩3.65倍，但DSP因SDK与芯片驱动不兼容失败，最终以GPU作为兜底方案。适合关注端侧AI部署、模型量化及高通SNPE工具链的开发者参考。
标签 CPU 下的文章
零基础上手：高通 SNPE 模型转换实战（从 ONNX 到 DLC）
本文详细记录了高通SNPE（骁龙神经处理引擎）模型转换的完整实战过程，手把手教你将PyTorch导出的ONNX模型转换为骁龙平台专用的DLC格式。内容涵盖SNPE/QAIRT SDK下载与环境配置、核心工具使用、DLC格式结构解析、CPU/GPU/DSP/HTP四类后端选择，并通过x86 CPU推理验证了转换后模型与ONNX Runtime结果完全一致。同时总结了Python版本不兼容、onnx版本限制、系统库依赖缺失、Padding无符号整数溢出等典型踩坑案例及解决方案，适合正在做高通平台端侧AI部署的开发者参考。
用 MNN 在 CPU 上跑 AI 推理：阿里端侧推理框架上手记
本文记录了阿里开源端侧推理框架MNN在纯CPU环境下的完整上手过程：从源码编译环境搭建、将PyTorch模型经ONNX转换为MNN格式，到使用Python Module API编写推理代码。实测MNIST模型推理延迟仅0.033毫秒，准确率99%无损，并对比了与ONNX Runtime的定位差异，总结了算子融合、内存预分配等性能优化手段及踩坑经验，为端侧AI部署提供实用参考。
MinerU + PP-OCRv6 + LLM 纯 CPU 文档转 Markdown：封装 HTTP 服务实战
本文阐述了一个纯CPU环境下文档转Markdown的完整方案，基于MinerU 3.4.4与PP-OCRv6实现高精度OCR和版面结构还原，通过FastAPI封装为HTTP服务提供文件上传、转换、下载及LLM后处理纠错排版功能。项目支持PDF、Office及图片格式，无需GPU，Docker一键部署，适合内网知识库、RAG文档预处理等场景。关键词：MinerU, PP-OCRv6, 纯CPU, 文档转Markdown, LLM后处理, HTTP服务, FastAPI, 自动清理。