标签 量化 下的文章

MCP 发布新路线图:无状态化、Agent 身份与渐进式工具发现 Prime Intellect 发布 NanoGPT Speedrun Frontier:18 个前沿模型化身 Agent 跑训练速度赛 为什么本地 LLM「显得更笨」?Level1Techs 实验:内核、KV 缓存与量化都会翻转 token Codex 更新:导入 Cursor skills + 采纳 MCP 2026-07-28,Agent 工具生态走向互操作 8 月 23 日的选题集中在 Agent 协议与工具生态:MCP 官方发布新路线图,以无状态核心、Agent 身份与渐进式工具发现为五个优先方向,OpenAI Codex 同日宣布采纳 2026-07-28 协议;Prime Intellect 让 18 个前沿模型化身 Agent 跑 nanoGPT 训练速

- 阅读剩余部分 -

踩坑记录:脚本里藏了多少“想当然” 转换与量化结果 x86 上先跑个 smoke test 真机 CPU 推理:PC 和手机对上了 INT8 DSP 挂了,但 GPU 能兜底 实测结论 下一步计划 系列文章 这是 AI 实操第 9 天部署篇:把 day09 训练好的语音指令分类模型,通过 ONNX → SNPE DLC → INT8 量化,最终跑到真机上。记录环境、踩坑过程和实测结果。 本文首发地址 https://h89.cn/archives/676.html 项目地址 https://gitee.com/chenjim/cockpit-ai-from-zero 语音模型在车机芯片上跑,不能只停在训练准确率和 PC 延迟。必须实际走通转换、量化、adb 部署、真机推理,看看模型能不能在目标设备上正常出结果,以及 INT8 量化后精度损失多少。 本文环境:

- 阅读剩余部分 -

引言:模型减肥 量化到底是什么 对称量化 为什么需要校准数据集 SNPE 量化工具和参数 核心参数 其他可选参数 校准数据集怎么准备 看看量化后的 DLC 长啥样 x86 CPU 上验证 INT8 推理 为什么 MNIST 没掉精度 骁龙真机实测 踩坑记录 坑一:校准数据格式不对,量化工具一声不吭 坑二:snpe-dlc-quantize 的 bash 包装脚本有个语法 bug 坑三:校准数据太少,准确率直接跪 量化对车机意味着什么 总结 系列文章 这是 AI 实操第 7 天。第 6 天把 MNIST 模型转成了 DLC,今天给 DLC 做 INT8 量化:压缩 3.46 倍、精度零损失,并在骁龙真机上实测四个后端。 本文首发地址 https://h89.cn/archives/673.html 项目地址 https://gi

- 阅读剩余部分 -