Skip to main content

aclrtDeviceEnablePeerAccess

aclrtGetMemInfo​

函数功能​

获取指定属性的AscendCL应用可用内存的空闲大小和总大小，不包括系统预留内存大小。同步接口。

请根据实际硬件支持的情况，选择对应属性的内存，否则调用本接口获取到的空闲大小和总大小都为0。

约束说明​

调用本接口前是必须先指定用于计算的Device（例如调用aclrtSetDevice接口指定用于计算的Device），因此本接口中不体现Device ID。

函数原型​

aclError aclrtGetMemInfo(aclrtMemAttr attr, size_t *free, size_t *total)

参数说明​

参数名输入/输出说明
attr输入需要查询的内存的属性值。
free输出对应属性内存空闲大小的指针，单位Byte。
total输出对应属性内存总大小的指针，单位Byte。

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 内存管理

aclrtDeviceCanAccessPeer​

函数功能​

查询Device之间是否支持内存复制，同步接口。

Atlas 200/500 A2推理产品，不支持该接口。

约束说明​

  • 仅支持物理机和容器场景；
  • 仅支持同一个PCIe Switch内Device之间的内存复制。AI Server场景下，虽然是跨PCIe Switch，但也支持Device之间的内存复制。
  • 仅支持同一个物理机或容器内的Device之间的内存复制操作；
  • 仅支持同一个进程内、线程间的Device之间的内存复制，不支持不同进程间Device之间的内存复制。

函数原型​

aclError **aclrtDeviceCanAccessPeer(**int32_t *canAccessPeer, int32_t deviceId, int32_t peerDeviceId)

参数说明​

参数名输入/输出说明
canAccessPeer输出通过deviceId参数指定的Device和通过peerDeviceId参数指定的Device之间是否支持内存复制，1表示支持，0表示不支持。
deviceId输入指定Device的ID，不能与peerDeviceId参数值相同。 用户调用aclrtGetDeviceCount接口获取可用的Device数量后，这个Device ID的取值范围：[0, (可用的Device数量-1)]
peerDeviceId输入指定Device的ID，不能与deviceId参数值相同。 用户调用aclrtGetDeviceCount接口获取可用的Device数量后，这个Device ID的取值范围：[0, (可用的Device数量-1)]

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 内存管理

aclrtDeviceEnablePeerAccess​

函数功能​

使能当前Device与指定Device之间的内存复制，同步接口。使能内存复制是Device级的。

Atlas 200/500 A2推理产品，不支持该接口。

约束说明​

可提前调用aclrtDeviceCanAccessPeer接口显查询当前Device与指定Device之间能否进行内存复制。使能Device间的内存复制功能后，若想关闭该功能，可调用aclrtDeviceDisablePeerAccess接口。

函数原型​

aclError aclrtDeviceEnablePeerAccess(int32_t peerDeviceId, uint32_t flags)

参数说明​

参数名输入/输出说明
peerDeviceId输入Device ID，该ID不能与当前Device的ID相同。 用户调用aclrtGetDeviceCount接口获取可用的Device数量后，这个Device ID的取值范围：[0, (可用的Device数量-1)]
flags输入保留参数，当前必须设置为0。

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 内存管理

aclrtDeviceDisablePeerAccess​

函数功能​

关闭当前Device与指定Device之间的内存复制功能，同步接口。关闭内存复制功能是Device级的。

Atlas 200/500 A2推理产品，不支持该接口。

约束说明​

调用aclrtDeviceEnablePeerAccess接口使能当前Device与指定Device之间的内存复制后，可调用aclrtDeviceDisablePeerAccess接口关闭内存复制功能。

函数原型​

**aclError**aclrtDeviceDisablePeerAccess(int32_t peerDeviceId)

参数说明​

参数名输入/输出说明
peerDeviceId输入Device ID，该ID不能与当前Device的ID相同。 用户调用aclrtGetDeviceCount接口获取可用的Device数量后，这个Device ID的取值范围：[0, (可用的Device数量-1)]

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 内存管理

aclrtMemcpy2d​

函数功能​

实现同步内存复制，主要用于矩阵数据的复制。同步接口。

函数原型​

aclError aclrtMemcpy2d(void *dst, size_t dpitch, const void *src, size_t spitch, size_t width, size_t height，aclrtMemcpyKind kind)

约束说明​

  • 当前仅支持ACL_MEMCPY_HOST_TO_DEVICE类型和ACL_MEMCPY_DEVICE_TO_HOST类型的内存复制。
  • Atlas 200/500 A2推理产品，Ascend RC形态下，不支持调用本接口。

参数说明​

参数名输入/输出说明
dst输入目的内存地址指针。
dpitch输入目的内存中相邻两列向量的地址距离。
src输入源内存地址指针。
spitch输入源内存中相邻两列向量的地址距离。
width输入待复制的矩阵宽度。
height输入待复制的矩阵高度。
kind输入内存复制的类型。
text<br>typedef enum aclrtMemcpyKind &#123;<br>ACL_MEMCPY_HOST_TO_HOST, // Host内的内存复制<br>ACL_MEMCPY_HOST_TO_DEVICE, // Host到Device的内存复制<br>ACL_MEMCPY_DEVICE_TO_HOST, // Device到Host的内存复制<br>ACL_MEMCPY_DEVICE_TO_DEVICE, // Device内或Device间的内存复制<br>&#125; aclrtMemcpyKind;<br>

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 内存管理

aclrtMemcpy2dAsync​

函数功能​

实现异步内存复制，主要用于矩阵数据的复制。异步接口。

约束说明​

  • 该接口是异步接口，调用接口成功仅表示任务下发成功，不表示任务执行成功。调用该接口后，一定要调用aclrtSynchronizeStream接口确保内存复制的任务已执行完成。
  • 当前仅支持ACL_MEMCPY_HOST_TO_DEVICE类型和ACL_MEMCPY_DEVICE_TO_HOST类型的内存复制。
  • Atlas 200/500 A2推理产品，Ascend RC形态下，不支持调用本接口。

函数原型​

aclError aclrtMemcpy2dAsync(void *dst, size_t dpitch, const void *src, size_t spitch, size_t width, size_t height，aclrtMemcpyKind kind, aclrtStream stream)

参数说明​

参数名输入/输出说明
dst输入目的内存地址指针。
dpitch输入目的内存中相邻两列向量的地址距离。
src输入源内存地址指针。
spitch输入源内存中相邻两列向量的地址距离。
width输入待复制的矩阵宽度。
height输入待复制的矩阵高度。 height最大设置为5*1024*1024=5242880，否则接口返回失败。
kind输入内存复制的类型。
text<br>typedef enum aclrtMemcpyKind &#123;<br>ACL_MEMCPY_HOST_TO_HOST, // Host内的内存复制<br>ACL_MEMCPY_HOST_TO_DEVICE, // Host到Device的内存复制<br>ACL_MEMCPY_DEVICE_TO_HOST, // Device到Host的内存复制<br>ACL_MEMCPY_DEVICE_TO_DEVICE, // Device内或Device间的内存复制<br>&#125; aclrtMemcpyKind;<br>
stream输入指定stream。

返回值说明​

返回0表示成功，返回其它值表示失败。

父主题： 内存管理

在线提单