大语言模型

SRM935 × qwen3.5-0.8B

MEIGINE · — · 测试环境：meigine_android · NPU

qwen3.5-0.8B @ SRM935 MEIGINE/NPU 12.70 tok/s

初始化

3.08 s

推理指标（纯模型推理耗时，不含前后处理流程）

12.70 tok/s

Prefill

49.70 tok/s

Decode

12.70 tok/s

内存占用

661.3 MB

设备侧采样：峰值与全程平均分开给出，CPU / GPU 为整机占用，NPU 按 q6 / HVX / HMX 分单元统计。

CPU

峰值

28.62%

平均

7.14%

NPU

峰值

59.6%