大语言模型
SNM970 × Deepseek-qwen-1.5b
QNN · — · 测试环境:qnn_android · NPU_W4A16
Deepseek-qwen-1.5b @ SNM970 QNN/HTP 38.00 tok/s
初始化
2.67 ms
推理指标
38.00 tok/s
内存占用
2.45 GB
CPU max
30.625%
CPU avg
26.5%
GPU max
—
NPU
85 %
关联信息
- 模型
- Deepseek-qwen-1.5b
- 芯片平台
- SNM970
- 芯片
- QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
- 推理框架
- QNN
- 量化精度
- —
- 测试日期
- 2026-08-28