Skip to main content

函数:set_attr_data_type

函数:destroy_handle

C函数原型**void aclopDestroyHandle(**aclopHandle *handle)
Python函数acl.op.destroy_handle(handle)
函数功能销毁一个执行算子的handle,同步接口。
输入说明handle:int,待销毁的acl的算子Handle的地址对象。
返回值说明
约束说明销毁类接口:调用该接口后,不能继续使用已释放或销毁的资源,建议调用该接口后,将相关资源设置为无效值(例如,置为0或None)。

父主题: 算子加载与执行(op)

函数:infer_shape

C函数原型aclError aclopInferShape(const char *opType, int numInputs, aclTensorDesc *inputDesc[], aclDataBuffer *inputs[], int numOutputs, aclTensorDesc *outputDesc[], aclopAttr *attr)
Python函数ret = acl.op.infer_shape(op_type, in_desc_list, in_list, num_outputs, out_desc_list, attr)
函数功能根据算子的输入Shape、输入值推导出算子的输出Shape。
输入说明op_type:int,指定算子类型名称。 in_desc_list:list,算子输入tensor的描述。需提前调用create_tensor_desc接口创建aclTensorDesc类型 in_list:list,算子输入tensor。 此处算子输入tensor数据的内存必须根据应用运行模式来确定,应用运行在Host时,此处需申请Host上的内存。应用运行在Device时,此处需申请Device上的内存。内存申请接口请参见内存管理。此处需申请Device上的内存。内存申请接口请参见内存管理num_outputs:int,算子输出tensor的数量。 attr:int,算子的属性地址对象。
输出说明out_desc_list:list,算子输出tensor的描述。需提前调用create_tensor_desc接口创建aclTensorDesc类型。out_desc_list数组中的元素个数必须与num_outputs参数值保持一致。
返回值说明ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明- 推导算子的输出Shape包含三种场景:
- 根据Shape推导,可以得到算子的准确输出Shape,则返回准确输出Shape。
- 根据Shape推导,无法得到算子的准确输出Shape,但可以得到输出Shape的范围,则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-1。该场景下,用户可调用get_tensor_desc_dim_range接口获取tensor描述中指定维度的范围值。
- (该场景预留)根据Shape推导,无法得到算子的准确输出Shape以及Shape范围,则在输出参数outputDesc中将算子输出tensor描述中的动态维度的维度值记为-2。
- 如果算子有动态输入或动态输出,在调用acl.op.infer_shape接口推导算子的输出Shape前,需先调用set_tensor_desc_name接口设置所有输入和输出的tensor描述的名称,且名称必须按照如下要求(算子IR原型中定义的输入/输出名称请参见《算子清单》。)
- 对于必选输入、可选输入、必选输出,名称必须与算子IR原型中定义的输入/输出名称保持一致。
- 对于动态输入、动态输出,名称必须是:算子IR原型中定义的输入/输出名称+编号。编号根据动态输入/输出的个数确定,从0开始,0对应第一个动态输入/输出,1对应第二个动态输入/输出,以此类推。 例如某个算子有2个输入(第1个是必选输入x,第二个是动态输入y且输入个数为2)、1个必选输出z,则调用set_tensor_desc_name接口设置名称的代码示例如下:
text<br> acl.set_tensor_desc_name(input_tensor_desc[0], "x");<br> acl.set_tensor_desc_name(input_tensor_desc[1], "y0");<br> acl.set_tensor_desc_name(input_tensor_desc[2], "y1");<br> acl.set_tensor_desc_name(input_tensor_desc[0], "z");<br>

父主题: 算子加载与执行(op)

函数:set_attr_data_type

C函数原型aclError **aclopSetAttrDataType(**aclopAttr *attr, const char *attrName, aclDataType attrValue)
Python函数attr, ret = acl.op.set_attr_data_type**(**attr, attr_name, attr_value)
函数功能设置指定属性的数据类型。同步接口。
输入说明attr_name:str,属性名。 attr_value:int,属性值。
返回值说明attr:aclopAttr类型的指针地址。需提前调用acl.op.create_attr接口创建aclopAttr类型。 ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明

父主题: 算子加载与执行(op)

函数:set_attr_list_data_type

C函数原型aclError **aclopSetAttrListDataType(**aclopAttr *attr, const char *attrName, int numValues, const aclDataType values[])
Python函数attr, ret = acl.op.set_attr_list_data_type**(**attr, attr_name, values)
函数功能设置指定属性列表的数据类型。同步接口。
输入说明attr_name:str,属性名。 values:list,属性值的列表。
返回值说明attr:aclopAttr类型的指针地址。需提前调用acl.op.create_attr接口创建aclopAttr类型。 ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明

父主题: 算子加载与执行(op)

关于A、B、C矩阵的Shape及内存大小计算公式

  • A、B、C矩阵是否转置的标记如果设置为ACL_TRANS_N或ACL_TRANS_T,则用户在申请内存存放A、B、C矩阵数据时,实际申请的内存要和实际数据大小匹配,Shape及内存大小的计算公式如下:

    • A矩阵:shape = (m, k);内存大小 = m * k * acl.data_type_size(data_type_a)
    • B矩阵:shape = (k, n);内存大小 = k * n * acl.data_type_size(data_type_b)
    • C矩阵:shape = (m, n);内存大小 = m * n * acl.data_type_size(data_type_c)
  • A、B、C矩阵是否转置的标记如果设置为ACL_TRANS_NZ,表示采用内部数据格式,矩阵Shape为4维,Shape及内存大小的计算公式如下(假设m,k,n分别为原始轴):

    • 当矩阵A和矩阵B中数据的类型为aclFloat16,在计算实际内存大小时,m、k、n均按16对齐向上取整计算:
      • A矩阵:shape = (⌈k/16⌉, ⌈m/16⌉, 16, 16);内存大小 = ⌈m/16⌉ * 16 * ⌈k/16⌉ * 16 * acl.data_type_size(data_type_a)
      • B矩阵:shape = (⌈n/16⌉, ⌈k/16⌉, 16, 16);内存大小 = ⌈k/16⌉ * 16 * ⌈n/16⌉ * 16 * acl.data_type_size(data_type_b)
      • C矩阵:shape = (⌈n/16⌉, ⌈m/16⌉, 16, 16);内存大小 = ⌈m/16⌉ * 16 * ⌈n/16⌉ * 16 * acl.data_type_size(data_type_c)
    • 当矩阵A和矩阵B中数据的类型为int8_t,在计算实际内存大小时,reduce轴按32对齐向上取整计算,非reduce轴按16对齐向上取整计算:
      • A矩阵:shape = (⌈k/32⌉, ⌈m/16⌉, 16, 32);内存大小 = ⌈m/16⌉ * 16 * ⌈k/32⌉ * 32 * acl.data_type_size(data_type_a)
      • B矩阵:shape = (⌈k/32⌉, ⌈n/16⌉, 32, 16);内存大小 = ⌈k/32⌉ * 32 * ⌈n/16⌉ * 16 * acl.data_type_size(data_type_b)
      • C矩阵:shape = (⌈n/16⌉, ⌈m/16⌉, 16, 16);内存大小 = ⌈m/16⌉ * 16 * ⌈n/16⌉ * 16 * acl.data_type_size(data_type_c)

    :::note 说明 ⌈ ⌉表示向上对齐。 :::

父主题: CBLAS接口(blas)

函数:gemv_ex

C函数原型aclError aclblasGemvEx(aclTransType transA, int m, int n, const void *alpha, const void *a, int lda, aclDataType dataTypeA, const void *x, int incx, aclDataType dataTypeX, const void *beta, void *y, int incy, aclDataType dataTypeY, aclComputeType type, aclrtStream stream);
Python函数ret = acl.blas.gemv_ex(trans_a, m, n,alpha, a, lda, data_type_a, x, incx, data_type_x, beta, y, incy, data_type_y, type, stream )
函数功能执行矩阵-向量的乘法,y = αAx + βy,输入数据、输出数据的数据类型通过入参设置,异步接口。
输入说明trans_a:int,矩阵A是否转置的标记。 m:int,矩阵A的行数,存储矩阵乘数据时,行优先。 n:int,矩阵A的列数。 alpha:int, 用于执行乘操作的标量alpha数据指针地址。 a:int,矩阵A的数据指针地址。 lda:int,A矩阵的主位,此时选择转置,按行优先,则lda为A的列数。 data_type_a:int,矩阵A的数据类型。 x:int,向量x的数据指针地址。 incx:int,x连续元素之间的步长。 data_type_x:int,向量x的数据类型。 beta:int,用于执行乘操作的标量beta的数据指针地址。 y:int,向量y的数据指针地址。 incy:int,y连续元素之间的步长。 data_type_y:int,向量y的数据类型。 type:int,计算精度。 stream:int,执行算子所在的Stream。
返回值说明ret:int,错误码。
- 返回0表示成功。
- 返回其它值表示失败。
约束说明A、x、y的数据类型支持仅支持以下组合, α和β的数据类型与y一致。 A的数据类型 x的数据类型 y的数据类型 aclFloat16 aclFloat16 aclFloat16 aclFloat16 aclFloat16 float(float32) int8_t int8_t float(float32) int8_t int8_t int32_t
参考资源接口调用流程,参见接口调用流程

父主题: CBLAS接口(blas)

在线提单