大语言模型
SNM970 × Distil-bert-base-uncased-hf
ONNX · — · 测试环境：onnx · NPU
Distil-bert-base-uncased-hf @ SNM970 ONNX/NPU 87.60 inf/s
初始化
—
推理指标
87.60 inf/s
内存占用
116 MB
CPU max
—
CPU avg
—
GPU max
—
NPU
—
关联信息
- 模型
- Distil-bert-base-uncased-hf
- 芯片平台
- SNM970
- 芯片
- QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
- 推理框架
- ONNX
- 量化精度
- —
- 测试日期
- 2026-08-28