美格智能 MeiG
大语言模型

SNM970 × Distil-bert-base-uncased-hf

QNN · — · 测试环境:qnn_dlc · NPU

Distil-bert-base-uncased-hf @ SNM970 QNN/HTP 132.94 tok/s

推理指标(纯模型推理耗时,不含前后处理流程)
132.94 tok/s
内存占用
2 MB

关联信息

模型
Distil-bert-base-uncased-hf
芯片平台
SNM970
芯片
QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
推理框架
QNN
量化精度
—
测试日期
2026-06-29