跳到主要内容

更新历史

表 1.8 更新历史 版本发布日期描述
1.4.02026年07月11日无。
1.3.02026年05月22日LLM推理性能评测工具 不再支持 --ndevices 参数,新增 --devices 参数,支持指定推理使用的后摩逻辑设备列表。
1.2.02026年04月15日无。
1.1.02026年03月12日LLM推理性能评测工具更新如下:
  • 新增参数:--warm_up_output--LazyMode--skip_perf--dump_file <filename.yaml>--warm_up_input
  • 配置文件支持YAML格式。
  • 参数 --stop 重命名为 --output
  • 新增 Memory Usage (Max Values) 回显字段,展示在本轮模型测试期间,主机内存的最大使用量。
  • 新增 Inference Performance 回显字段,展示模型推理阶段的性能统计。

1.0.0 | 2026年02月06日 | LLM推理性能评测工具 支持返回推理过程中设备的运行状态,包括温度、功耗等信息。
0.7.0 | 2026年01月09日 |

  • LLM模型推理性能评测工具新增 --visual <vlm_model>--no_warm_up 参数, 支持VLM模型性能评测和设置正式测试前是否执行 warm up。 详情参看 LLM推理性能评测工具
  • 模型推理性能评测工具支持在Windows环境下使用, 详情参看 模型推理性能评测工具

0.6.0 | 2025年12月15日 |

0.5.0 | 2025年11月01日 | 初始版本。