MeiG Intelligent Network Dashboard

大语言模型

SNM983 × Deepseek-qwen-7b

QNN · — · 测试环境：qnn_linux · NPU_W4A16

Deepseek-qwen-7b @ SNM983 QNN/HTP 12.05 tok/s

初始化

12.65 ms

推理指标

12.05 tok/s

内存占用

7.25 GB

CPU max

34.38 %

CPU avg

18.80 %

GPU max

—

NPU

97.70 %

结论

查看模型详情查看平台详情

关联信息

模型: Deepseek-qwen-7b
芯片平台: SNM983
芯片: QCS9075 / QCS9100 (SA8775P)
推理框架: QNN
量化精度: —
测试日期: 2026-08-28