MeiG Intelligent Network Dashboard

大语言模型

SNM982 × Llama2-7b

QNN · — · 测试环境：qnn_linux · NPU_W4A16

Llama2-7b @ SNM982 QNN/HTP 15.51 tok/s

初始化

1.62 ms

推理指标

15.51 tok/s

内存占用

4.43 GB

CPU max

5.17%

CPU avg

3.51%

GPU max

—

NPU

95.25%

结论

查看模型详情查看平台详情

关联信息

模型: Llama2-7b
芯片平台: SNM982
芯片: QCS8625
推理框架: QNN
量化精度: —
测试日期: 2026-08-28