MeiG Intelligent Network Dashboard

大语言模型

SRM6690 × Llama2-7b

QNN · — · 测试环境：qnn_android · NPU_W4A16

Llama2-7b @ SRM6690 QNN/HTP 4.45 tok/s

初始化

5.39 ms

推理指标

4.45 tok/s

内存占用

4.75 GB

CPU max

24.12 %

CPU avg

20.00 %

GPU max

—

NPU

100.00 %

结论

查看模型详情查看平台详情

关联信息

模型: Llama2-7b
芯片平台: SRM6690
芯片: QCM6690 (Snapdragon 6690)
推理框架: QNN
量化精度: —
测试日期: 2026-08-28