美格智能 MeiG
大语言模型

SNM980 × Qwen2.5-7b

QNN · · 测试环境:qnn_android · NPU_W4A16

Qwen2.5-7b @ SNM980 QNN/HTP 14.97 tok/s

初始化
6.86 ms
推理指标
14.97 tok/s
内存占用
6.25 GB
CPU max
46.88 %
CPU avg
29.24 %
GPU max
NPU
99.90 %

结论

关联信息

模型
Qwen2.5-7b
芯片平台
SNM980
芯片
SM8750P (Snapdragon 8 Elite)
推理框架
QNN
量化精度
测试日期
2026-08-28