Skip to main content

模型编译

TCIM仅支持在Linux系统主机上使用Python API编译模型。编译使用的接口在软件平台提供的Docker镜像中 /usr/local/houmo/venv/lib/python3.12/site-packages/tcim/builder/api.py 文件中。

注意

AArch64架构不支持模型编译。用户需要在X86_64架构下编译模型，再将生成的二进制模型文件拷贝到AArch64架构的环境中进行推理。

下面示例展示了如何调用 Python API编译模型：

  1. 导入 tcim 库：
import tcim
  1. 调用 build_from_hmonnx API编译模型。示例如下：
tcim.build_from_hmonnx(
    onnx_model,
    output_name=model_name,
    target="xh2",
    ncore=ncore,
    output_dir=output_dir,
    work_dir=os.path.join(output_dir, "tcim")
)

模型编译后生成二进制模型文件（.hmm或.hmms）。接口详情可参看 《TCIM开发者手册》。