MeiG Intelligent Network Dashboard

大语言模型

SNM970 × Qwen2.5-3b

QNN · — · 测试环境：qnn_android · NPU_W4A16

Qwen2.5-3b @ SNM970 QNN/HTP 26.00 tok/s

初始化

1.87 ms

推理指标

26.00 tok/s

内存占用

2.58 GB

CPU max

40 %

CPU avg

38 %

GPU max

—

NPU

99 %

结论

查看模型详情查看平台详情

关联信息

模型: Qwen2.5-3b
芯片平台: SNM970
芯片: QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
推理框架: QNN
量化精度: —
测试日期: 2026-08-28