美格智能 MeiG
大语言模型

SRM965 × Deepseek-llm-7b

QNN · · 测试环境:qnn_android · NPU_W4A16

Deepseek-llm-7b @ SRM965 QNN/HTP 11.96 tok/s

初始化
11.31 ms
推理指标
11.96 tok/s
内存占用
5.95 GB
CPU max
34.4 %
CPU avg
32.3 %
GPU max
NPU
96.29 %

结论

关联信息

模型
Deepseek-llm-7b
芯片平台
SRM965
芯片
QCM8538
推理框架
QNN
量化精度
测试日期
2026-08-28