标签 GPU 下的文章

CUDA Rust、Shai-Hulud蠕虫、Mimo 2.6 实时RL、birdview、AI随机数17

本期内容涵盖NVIDIA发布CUDA Rust项目,将Rust打造为GPU kernel一等语言;Mandiant披露AI编程助手会话劫持攻击链,Shai-Hulud蠕虫致百个仓库感染;小米Mimo 2.6上线实时RL训练仪表盘公开成本;开源项目birdview通过架构地图辅助AI改代码;以及AI生成随机数恒为17的现象讨论,揭示LLM伪随机机制。

- 阅读全文 -

Astra暂停、MuseGlimmer、Needle2、Agent语言选型、Kimsuky离线AI

2026年8月AI行业动态:OpenAI下一代模型Astra因首次触发“关键网络安全能力”阈值而暂停部分开发,安全治理转向预防式;Meta发布开源权重Agent模型Muse Glimmer 30B,4-bit量化后可在24GB消费级GPU运行,Apache 2.0协议上线Hugging Face;Cactus Compute推出仅14MB的Needle2,可在智能手表运行Agent推理;Dan Luu分析AI编程Agent语言选型,Kimsuky被曝在攻击服务器搭建离线AI栈。涵盖Agent、GPU、SWE-Bench Pro等关键词。

- 阅读全文 -

车载语音指令识别:SNPE 转换与真机部署实测记录

本文记录了车载语音指令识别模型从ONNX到SNPE DLC再到INT8量化的完整真机部署实测过程,详细梳理了脚本变量覆盖、库路径缺失、校准数据预处理不一致等六大踩坑问题,并在骁龙8 Elite(SM8750)手机上完成CPU与GPU推理验证。结果显示FP32 CPU输出与x86一致,INT8模型压缩3.65倍,但DSP因SDK与芯片驱动不兼容失败,最终以GPU作为兜底方案。适合关注端侧AI部署、模型量化及高通SNPE工具链的开发者参考。

- 阅读全文 -

小白用 TensorRT 给模型加速:ONNX 转 Engine 踩坑实录

本文面向AI实操新手,详细记录将ONNX模型编译为TensorRT Engine的完整踩坑过程。内容涵盖TensorRT 11.x API重大变更、FP16/INT8精度转换新流程、Windows环境安装注意事项、三层架构核心概念,以及FP32与FP16精度模式对比。文章通过菜谱与名厨的生动比喻,解释算子融合、精度校准、自动调优等加速原理,并附ONNX转Engine的具体代码步骤,帮助读者绕过常见报错,在GPU上实现模型高效推理加速。适合初学者快速上手TensorRT。

- 阅读全文 -

Android动画详解PAG

本文介绍腾讯开源的PAG(Portable Animated Graphics)动画方案,作为SVGA和Lottie的替代,特别适合直播礼物、游戏特效、复杂UI动效等场景。PAG底层采用C++渲染引擎,支持几乎所有AE特效,解码速度快、文件体积小且支持GPU加速,同时具备强大的运行时编辑能力(替换文本、图片、改色)。文章还对比了PAG、Lottie和SVGA的性能、文件大小、AE支持度等差异,并给出Android接入指南及注意事项(APK体积增加约3-5MB、设计师学习成本)。对于需要替换SVGA且追求高性能和丰富特效的Android应用,PAG是当前最优解。

- 阅读全文 -

YOLOv8 在 Android 端集成实践

本文深入介绍在 Android 端集成 YOLOv8 目标检测的两条主流技术路线,对比 TFLite + CameraX(低难度、快速上线)与 NCNN + JNI/NDK(高性能、极致优化)的适用场景、模型转换、预处理 Letterbox、后处理 NMS 及常见坑点,并提供性能优化技巧与调试方法。文章包含 TFLite 导出、NCNN 转换、JNI 代码修正、GPU 加速等关键实践,适合希望将 YOLOv8 部署到移动端、平衡开发效率与推理帧率的 Android 开发者。

- 阅读全文 -