大语言模型
SNM970 × Distil-bert-base-uncased-hf
QNN · — · 测试环境:qnn_dlc · NPU
Distil-bert-base-uncased-hf @ SNM970 QNN/HTP 132.94 inf/s
初始化
—
推理指标
132.94 inf/s
内存占用
2 MB
CPU max
—
CPU avg
—
GPU max
—
NPU
—
关联信息
- 模型
- Distil-bert-base-uncased-hf
- 芯片平台
- SNM970
- 芯片
- QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
- 推理框架
- QNN
- 量化精度
- —
- 测试日期
- 2026-08-28