美格智能 MeiG
大语言模型

SRM975 × Llama2-7b

QNN · · 测试环境:qnn_android · NPU_W4A16

Llama2-7b @ SRM975 QNN/HTP 17.67 tok/s

初始化
2.01 ms
推理指标
17.67 tok/s
内存占用
4.88 GB
CPU max
40.62 %
CPU avg
33.37 %
GPU max
NPU

结论

关联信息

模型
Llama2-7b
芯片平台
SRM975
芯片
QCM8838
推理框架
QNN
量化精度
测试日期
2026-08-28