美格智能 MeiG
大语言模型

SRM6690 × Distil-bert-base-uncased-hf

ONNX · — · 测试环境:onnx · CPU

Distil-bert-base-uncased-hf @ SRM6690 ONNX/CPU 1.40 tok/s

推理指标(纯模型推理耗时,不含前后处理流程)
1.40 tok/s
内存占用
363 MB

关联信息

模型
Distil-bert-base-uncased-hf
芯片平台
SRM6690
芯片
QCM6690 (Snapdragon 6690)
推理框架
ONNX
量化精度
—
测试日期
2026-06-29