美格智能 MeiG
大语言模型

SNM983 × Qwen2-0.5b

QNN · · 测试环境:qnn_android · NPU_W4A16

Qwen2-0.5b @ SNM983 QNN/HTP 98.39 tok/s

初始化
1.41 ms
推理指标
98.39 tok/s
内存占用
2.11 GB
CPU max
46.59 %
CPU avg
38.26 %
GPU max
NPU
87.91 %

结论

关联信息

模型
Qwen2-0.5b
芯片平台
SNM983
芯片
QCS9075 / QCS9100 (SA8775P)
推理框架
QNN
量化精度
测试日期
2026-08-28