Skip to main content

函数:set_dump

函数:create_and_get_op_desc

C函数原型aclError aclmdlCreateAndGetOpDesc(uint32_t deviceId, uint32_t streamId, uint32_t taskId, char *opName, size_t opNameLen, aclTensorDesc **inputDesc, size_t *numInputs, aclTensorDesc **outputDesc, size_t *numOutputs)
Python函数op_name, input_desc, num_inputs, output_desc, num_outputs, ret = acl.mdl.create_and_get_op_desc(device_id, stream_id, task_id, op_name_len)
函数功能获取指定算子的描述信息,包括算子名、输入Tensor描述、输出Tensor描述,如果查询不到指定算子,则返回报错。同步接口。
输入说明device_id:int,指定Device ID。 调用acl.rt.get_device_id_from_exception_info接口获取异常信息中的Device ID,作为本接口的输入。 stream_id:int,指定Stream ID。 调用acl.rt.get_stream_id_from_exception_info接口获取异常信息中的Stream ID,作为本接口的输入。 task_id:int,指定Task ID。 调用acl.rt.****get_task_id_from_exception_info接口获取异常信息中的Task ID,作为本接口的输入。 op_name_len:int,算子名称字符串长度。 若用户指定的长度比实际算子名称的长度短,则返回报错。
返回值说明op_name:string,算子名称字符串。 input_desc:int,算子所有输入的Tensor描述,指向一块连续内存的首地址。 num_inputs:int,输入个数。 output_desc:int,算子所有输出的Tensor描述,指向一块连续内存的首地址。 num_outputs:int,输出个数。 ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明使用场景****举例:执行整网模型推理时(不支持动态Shape场景),如果产生AI Core报错,可以调用本接口获取报错算子的描述信息,再做进一步错误排查。 推荐的接口调用顺序如下:
1. 定义并实现异常回调函数fn(aclrtExceptionInfoCallback类型),回调函数原型请参见acl.rt.set_exception_info_callback。 实现回调函数的关键步骤如下:
1. 在异常回调函数fn内调用acl.rt.get_device_id_from_exception_infoacl.rt.get_stream_id_from_exception_infoacl.rt.get_task_id_from_exception_info接口分别获取Device ID、Stream ID、Task ID。
2. 在异常回调函数fn内调用acl.mdl.create_and_get_op_desc接口获取算子的描述信息。
3. 在异常回调函数fn内调用acl.get_tensor_desc_by_index接口获取指定算子输入/输出的Tensor描述。
4. 在异常回调函数fn内如下接口获取Tensor描述中的数据,进行进一步分析。 例如,调用acl.get_tensor_desc_address接口获取Tensor数据的内存地址(用户可从该内存地址中获取Tensor数据)、调用acl.get_tensor_desc_type接口获取Tensor描述中的数据类型、调用acl.get_tensor_desc_format接口获取Tensor描述中的Format、调用acl.get_tensor_desc_num_dims接口获取Tensor描述中的Shape维度个数、调用acl.get_tensor_desc_dim_v2接口获取Shape中指定维度的大小。
2. 调用acl.rt.set_exception_info_callback接口设置异常回调函数。
3. 执行模型推理。 如果存在AI Core报错,则触发回调函数fn,获取算子的信息,进行进一步分析。
参考资源接口调用示例,参见AI Core异常信息获取

父主题: 模型加载与执行

函数:init_dump

C函数原型aclError aclmdlInitDump()
Python函数ret = acl.mdl.init_dump()
函数功能Dump初始化。同步接口。
输入说明
返回值说明ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明- acl.mdl.init_dump接口需要与acl.mdl.set_dump接口、acl.mdl.finalize_dump接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。
- 场景举例:
- 两次模型执行,需要设置不同的的Dump配置信息,接口调用顺序:acl.init接口-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->执行其它任务-->acl.finalize接口
- 同一个模型执行两次,第一次需要Dump,第二次无需Dump,接口调用顺序:acl.init接口-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->模型加载-->模型执行-->执行其它任务-->acl.finalize接口
- 如果已经通过acl.init接口配置了dump信息,则调用acl.mdl.init_dump接口时会返回失败。
- 必须在调用acl.init接口之后、模型加载接口之前调用acl.mdl.init_dump接口。
相关接口pyACL还提供了acl.init接口,在pyACL初始化阶段,通过*.json文件传入Dump配置信息,运行应用后获取Dump数据的方式。该种方式,一个进程内,只能调用一次acl.init接口,如果要修改Dump配置信息,需修改*.json文件中的配置。

父主题: 模型加载与执行

函数:set_dump

C函数原型aclError aclmdlSetDump(const char *dumpCfgPath)
Python函数ret = acl.mdl.set_dump(dump_cfg_path)
函数功能设置dump参数。同步接口。
输入说明dump_cfg_path:string,配置文件所在的路径,包含文件名。 配置文件格式为JSON格式,当前可配置dump数据的相关信息,示例请参见配置文件示例,详细配置说明请参见《精度比对工具使用指南》中的“比对数据准备>准备离线模型dump数据文件”。如果不涉及配置信息,需向acl.mdl.set_dump接口中不加参数。
返回值说明ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明- acl.mdl.init_dump接口需要与acl.mdl.set_dump接口、acl.mdl.finalize_dump接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。
- 场景举例:
- 两次模型执行,需要设置不同的的Dump配置信息,接口调用顺序:acl.init接口-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->执行其它任务-->acl.finalize接口
- 同一个模型执行两次,第一次需要Dump,第二次无需Dump,接口调用顺序:acl.init接口-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->模型加载-->模型执行-->执行其它任务-->acl.finalize接口
- 如果已经通过acl.init接口配置了dump信息,则调用acl.mdl.init_dump接口时会返回失败。
- 必须在调用acl.init接口之后、模型加载接口之前调用acl.mdl.init_dump接口。
相关接口pyACL还提供了acl.init接口,在pyACL初始化阶段,通过*.json文件传入Dump配置信息,运行应用后获取Dump数据的方式。该种方式,一个进程内,只能调用一次acl.init接口,如果要修改Dump配置信息,需修改*.json文件中的配置。

配置文件示例

以Caffe ResNet-50网络为例,若需要比对Caffe ResNet-50网络与基于Caffe ResNet-50转换成的适配昇腾AI处理器的离线模型中某些层算子的输出结果,可以在配置文件中配置如下内容:

{
"dump":{
"dump_list":[
{
"model_name":"ResNet-50",
"layer":[
"conv1conv1_relu",
"res2a_branch2ares2a_branch2a_relu",
"res2a_branch1",
"pool1"
]
}
],
"dump_path":"/home/HwHiAiUser/ide_daemon/dump",
"dump_mode":"output"
}

}

父主题: 模型加载与执行

函数:finalize_dump

C函数原型aclError aclmdlFinalizeDump()
Python函数ret = acl.mdl.finalize_dump()
函数功能Dump去初始化。同步接口。
输入说明
返回值说明ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明- acl.mdl.init_dump接口需要与acl.mdl.set_dump接口、acl.mdl.finalize_dump接口配合使用,用于将Dump数据记录到文件中。一个进程内,可以根据需求多次调用这些接口,基于不同的Dump配置信息,获取Dump数据。
- 场景举例:
- 两次模型执行,需要设置不同的的Dump配置信息,接口调用顺序:acl.init接口-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->执行其它任务-->acl.finalize接口
- 同一个模型执行两次,第一次需要Dump,第二次无需Dump,接口调用顺序:acl.init接口-->acl.mdl.init_dump接口-->acl.mdl.set_dump接口-->模型加载-->模型执行-->acl.mdl.finalize_dump接口-->模型卸载-->模型加载-->模型执行-->执行其它任务-->acl.finalize接口
- 如果已经通过acl.init接口配置了dump信息,则调用acl.mdl.init_dump接口时会返回失败。
- 必须在调用acl.init接口之后、模型加载接口之前调用acl.mdl.init_dump接口。
相关接口pyACL还提供了acl.init接口,在pyACL初始化阶段,通过*.json文件传入Dump配置信息,运行应用后获取Dump数据的方式。该种方式,一个进程内,只能调用一次acl.init接口,如果要修改Dump配置信息,需修改*.json文件中的配置。

父主题: 模型加载与执行

函数:get_aipp_type

C函数原型aclError aclmdlGetAippType(uint32_t modelId, size_t index, aclmdlInputAippType *type, size_t *dynamicAttachedDataIndex)
Python函数type, dynamic_attached_data_index, ret = acl.mdl.get_aipp_type(model_id, index)
函数功能获取指定模型的指定输入所支持的AIPP类型(动态AIPP或静态AIPP)及动态AIPP输入对应的index值。
输入说明model_id:int,指定模型的ID。 调用acl.mdl.load_from_file接口/acl.mdl.load_from_mem接口/acl.mdl.load_from_file_with_mem接口/acl.mdl.load_from_mem_with_mem接口加载模型成功后,会返回模型ID。 index:int,模型中输入的index。
返回值说明type:int,表示指定模型输入的AIPP类型。 dynamic_attached_data_index:int,返回信息。
- 当type不为ACL_DATA_WITH_DYNAMIC_AIPP时,该值返回“0xFFFFFFFF”,表示无效。
- 当type为ACL_DATA_WITH_DYNAMIC_AIPP时,该值返回动态AIPP输入(用于配置动态AIPP参数)的index。
- 0:ACL_DATA_WITHOUT_AIPP #该输入无AIPP信息
- 1:ACL_DATA_WITH_STATIC_AIPP #该输入带静态AIPP信息
- 2:ACL_DATA_WITH_DYNAMIC_AIPP #该输入有关联的动态AIPP输入
- 3:ACL_DYNAMIC_AIPP_NODE #该输入本身就是动态AIPP输入,用于配置动态AIPP参数
ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明
参考资源接口调用示例,参见动态AIPP(多个动态AIPP输入)

父主题: 模型加载与执行

在线提单