大语言模型

SNM930 × LFM2.5-230M

MEIGINE · — · 测试环境：meigine_android · NPU+GPU

LFM2.5-230M @ SNM930 MEIGINE/NPU+GPU 46.40 tok/s

初始化

1.01 s

推理指标（纯模型推理耗时，不含前后处理流程）

46.40 tok/s

Decode

46.40 tok/s

内存占用

712.0MB

设备侧采样：峰值与全程平均分开给出，CPU / GPU 为整机占用，NPU 按 q6 / HVX / HMX 分单元统计。

CPU

峰值

10.22%

平均

6.84%

GPU

峰值

24%