更新历史
| 表 1.8 更新历史 版本 | 发布日期 | 描述 |
|---|---|---|
| 1.4.0 | 2026年07月11日 | 无。 |
| 1.3.0 | 2026年05月22日 | LLM推理性能评测工具 不再支持 --ndevices 参数,新增 --devices 参数,支持指定推理使用的后摩逻辑设备列表。 |
| 1.2.0 | 2026年04月15日 | 无。 |
| 1.1.0 | 2026年03月12日 | LLM推理性能评测工具更新如下: |
- 新增参数:
--warm_up_output、--LazyMode、--skip_perf、--dump_file <filename.yaml>、--warm_up_input。 - 配置文件支持YAML格式。
- 参数
--stop重命名为--output。 - 新增
Memory Usage (Max Values)回显字段,展示在本轮模型测试期间,主机内存的最大使用量。 - 新增
Inference Performance回显字段,展示模型推理阶段的性能统计。
1.0.0 | 2026年02月06日 | LLM推理性能评测工具 支持返回推理过程中设备的运行状态,包括温度、功耗等信息。
0.7.0 | 2026年01月09日 |
- LLM模型推理性能评测工具新增
--visual <vlm_model>和--no_warm_up参数, 支持VLM模型性能评测和设置正式测试前是否执行 warm up。 详情参看 LLM推理性能评测工具。 - 模型推理性能评测工具支持在Windows环境下使用, 详情参看 模型推理性能评测工具。
0.6.0 | 2025年12月15日 |
- 新增 LLM推理性能评测工具。
- 模型推理性能评测工具支持更多参数选项。
0.5.0 | 2025年11月01日 | 初始版本。