Distil-bert-base-uncased-hf
大语言模型ONNXQNNTFLiteDistil-bert-base-uncased-hf — 美格最新实测数据。
BEST · SNM980
250.752tok/s
QNN/HTP · —
任务类型
大语言模型
芯片平台
4 个
跨平台性能对比
按实测指标排序，深色条为该模型最佳平台。
芯片兼容矩阵
模型 × 芯片平台 × 精度 × 推理后端 组合的实测性能。
| 芯片平台 | 精度 | 推理后端 | 性能（不含前后处理） | 报告 |
|---|---|---|---|---|
| SNM980 SM8750P (Snapdragon 8 Elite) | — | QNN/HTP | 250.752 tok/s★ | 查看 → |
| SNM980 SM8750P (Snapdragon 8 Elite) | — | ONNX/NPU | 158.278 tok/s | 查看 → |
| SNM970 QCS8550 / QCM8550 (Snapdragon 8 Gen 2) | — | QNN/HTP | 132.943 tok/s | 查看 → |
| SNM980 SM8750P (Snapdragon 8 Elite) | — | TFLite/NPU | 119.062 tok/s | 查看 → |
| SNM983 QCS9075 / QCS9100 (SA8775P) | — | QNN/HTP | 106.056 tok/s | 查看 → |
| SNM970 QCS8550 / QCM8550 (Snapdragon 8 Gen 2) | — | ONNX/NPU | 87.604 tok/s | 查看 → |
| SNM983 QCS9075 / QCS9100 (SA8775P) | — | ONNX/NPU | 79.962 tok/s | 查看 → |
| SNM970 QCS8550 / QCM8550 (Snapdragon 8 Gen 2) | — | TFLite/NPU | 63.91 tok/s | 查看 → |
| SNM983 QCS9075 / QCS9100 (SA8775P) | — | TFLite/NPU | 51.808 tok/s | 查看 → |
| SRM6690 QCM6690 (Snapdragon 6690) | — | ONNX/CPU | 1.403 tok/s | 查看 → |
| SNM970 QCS8550 / QCM8550 (Snapdragon 8 Gen 2) | — | ONNX/CPU | 0.744 tok/s | 查看 → |
相关示例应用
暂无关联示例。