美格智能 MeiG
大语言模型

SNM970 × Qwen2-vl-2b

QNN · · 测试环境:qnn_linux · NPU_W4A16

Qwen2-vl-2b @ SNM970 QNN/HTP 35.45 tok/s

初始化
1.97 ms
推理指标
35.45 tok/s
内存占用
2.44 GB
CPU max
6.50 %
CPU avg
5.81 %
GPU max
NPU
85.10 %

结论

关联信息

模型
Qwen2-vl-2b
芯片平台
SNM970
芯片
QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
推理框架
QNN
量化精度
测试日期
2026-08-28