大语言模型
SNM983 × Deepseek-qwen-1.5b
QNN · — · 测试环境：qnn_linux · NPU_W4A16
Deepseek-qwen-1.5b @ SNM983 QNN/HTP 40.75 tok/s
初始化
2.53 ms
推理指标
40.75 tok/s
内存占用
2.46 GB
CPU max
34.38 %
CPU avg
23.70 %
GPU max
—
NPU
93.38 %
关联信息
- 模型
- Deepseek-qwen-1.5b
- 芯片平台
- SNM983
- 芯片
- QCS9075 / QCS9100 (SA8775P)
- 推理框架
- QNN
- 量化精度
- —
- 测试日期
- 2026-08-28