美格智能 MeiG
大语言模型

SNM983 × Qwen2.5-vl-7b

QNN · — · 测试环境：qnn_linux · NPU_W4A16

Qwen2.5-vl-7b @ SNM983 QNN/HTP 10.39 tok/s

初始化
6.63 ms
推理指标
10.39 tok/s
内存占用
6.86 GB
CPU max
38.64 %
CPU avg
37.50 %
GPU max
—
NPU
\ %

结论

查看模型详情查看平台详情

关联信息

模型
Qwen2.5-vl-7b
芯片平台
SNM983
芯片
QCS9075 / QCS9100 (SA8775P)
推理框架
QNN
量化精度
—
测试日期
2026-08-28