美格智能 MeiG
大语言模型

SNM982 × Deepseek-qwen-1.5b

QNN · · 测试环境:qnn_linux · NPU_W4A16

Deepseek-qwen-1.5b @ SNM982 QNN/HTP 54.08 tok/s

初始化
1.33 ms
推理指标
54.08 tok/s
内存占用
2.42 GB
CPU max
4.67%
CPU avg
4.74%
GPU max
NPU
94.95%

结论

关联信息

模型
Deepseek-qwen-1.5b
芯片平台
SNM982
芯片
QCS8625
推理框架
QNN
量化精度
测试日期
2026-08-28