Skip to main content

aclmdlLoadWithConfig

aclmdlLoadWithConfig

函数功能

指定模型加载时需要的配置信息,并进行模型加载。

本接口需要与以下其它接口配合,实现模型加载功能:

  1. 调用aclmdlCreateConfigHandle接口创建模型加载的配置对象。
  2. 多次调用aclmdlSetConfigOpt接口设置配置对象中每个属性的值。
  3. 调用aclmdlLoadWithConfig接口指定模型加载时需要的配置信息,并进行模型加载。
  4. 模型加载成功后,调用aclmdlDestroyConfigHandle接口销毁。

约束说明

在加载前,请先根据模型文件的大小评估内存空间是否足够,内存空间不足,会导致应用程序异常。

函数原型

aclError aclmdlLoadWithConfig(const aclmdlConfigHandle *handle, uint32_t *modelId)

参数说明

参数名输入/输出说明
handle输入模型加载的配置对象的指针。需提前调用aclmdlCreateConfigHandle接口创建该对象,与aclmdlSetConfigOpt中的handle保持一致。
modelId输出模型ID的指针。 系统成功加载模型后会返回的模型ID。

返回值说明

返回0表示成功,返回其它值表示失败。

相关接口

使用aclmdlSetConfigOpt接口、aclmdlLoadWithConfig接口时,是通过配置对象中的属性来区分,在加载模型时是从文件加载,还是从内存加载,以及内存是由系统内部管理,还是由用户管理。

当前AscendCL还提供了以下接口实现模型加载的功能,从使用的接口上区分从文件加载,还是从内存加载,以及内存是由系统内部管理,还是由用户管理。

父主题: 模型加载与执行

总体说明

本章主要介绍了如下几类算子API,提供了详细的接口介绍,包括接口原型、功能描述、参数说明、调用示例等,适合开发人员、测试人员。

  • NN类算子:主要包含实现数学基础运算(如加、减、乘、除等)、CNN相关操作(如卷积、池化、激活函数)等功能的算子接口。
  • DVPP类算子:主要包含实现图像缩放、JPEG图像解码、图像归一化等功能的算子接口。
  • **融合类算子:**主要将多个独立的“小算子”(向量Vector、矩阵Cube等)融合成一个“大算子”,达到提升算子性能的目的。

父主题: 单算子API执行

功能支持度说明

通过单算子API执行方式调用算子时,昇腾AI处理器对各类算子接口的支持度如下表所示。

版本NN类算子接口(aclnn)DVPP类算子接口(acldvpp)融合类算子接口(aclnn)
Atlas 200/500 A2推理产品xxx

父主题: 单算子API执行

在线提单