美格智能 MeiG
大语言模型

SNM980 × Distil-bert-base-uncased-hf

QNN · · 测试环境:qnn_dlc · NPU

Distil-bert-base-uncased-hf @ SNM980 QNN/HTP 250.75 inf/s

初始化
推理指标
250.75 inf/s
内存占用
301 MB
CPU max
CPU avg
GPU max
NPU

结论

关联信息

模型
Distil-bert-base-uncased-hf
芯片平台
SNM980
芯片
SM8750P (Snapdragon 8 Elite)
推理框架
QNN
量化精度
测试日期
2026-08-28