美格智能 MeiG

Distil-bert-base-uncased-hf

大语言模型ONNXQNNTFLite

Distil-bert-base-uncased-hf — 美格最新实测数据。

BEST · SNM980
250.752inf/s
QNN/HTP ·
任务类型
大语言模型
平台覆盖
4 个

跨平台性能对比

按实测指标排序,深色条为该模型最佳平台。

inf/sSNM980250.752SNM980158.278SNM970132.943SNM980119.062SNM983106.056SNM97087.604SNM98379.962SNM97063.91SNM98351.808SRM66901.403SNM9700.744

芯片兼容矩阵

模型 × 芯片平台 × 精度 × 推理后端 组合的实测性能。

芯片平台精度推理后端性能报告
SNM980
SM8750P (Snapdragon 8 Elite)
QNN/HTP250.752 inf/s查看 →
SNM980
SM8750P (Snapdragon 8 Elite)
ONNX/NPU158.278 inf/s查看 →
SNM970
QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
QNN/HTP132.943 inf/s查看 →
SNM980
SM8750P (Snapdragon 8 Elite)
TFLite/NPU119.062 inf/s查看 →
SNM983
QCS9075 / QCS9100 (SA8775P)
QNN/HTP106.056 inf/s查看 →
SNM970
QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
ONNX/NPU87.604 inf/s查看 →
SNM983
QCS9075 / QCS9100 (SA8775P)
ONNX/NPU79.962 inf/s查看 →
SNM970
QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
TFLite/NPU63.91 inf/s查看 →
SNM983
QCS9075 / QCS9100 (SA8775P)
TFLite/NPU51.808 inf/s查看 →
SRM6690
QCM6690 (Snapdragon 6690)
ONNX/CPU1.403 inf/s查看 →
SNM970
QCS8550 / QCM8550 (Snapdragon 8 Gen 2)
ONNX/CPU0.744 inf/s查看 →

下载资源

模型文件(许可受限)
该模型暂不支持下载

相关示例应用

暂无关联示例。