TensorBufferCopy
SetContext
函数功能
根据TensorBuffer对象中的deviceId，设置线程的Context。
函数原型
APP_ERROR SetContext() const;
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBuffer
TensorBufferMalloc
函数功能
用于获取TensorBuffer对象的内存。
Tensor对象在析构时会自动释放内存，因此无需通过函数释放内存。
函数原型
static APP_ERROR TensorBufferMalloc(TensorBuffer &buffer);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| buffer | 输入 | 用来获取对应内存的TensorBuffer数据。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBuffer
TensorBufferCopy
函数功能
内存复制函数，根据src中指定的内存位置在Host侧和Device侧之间进行复制。
函数原型
static APP_ERROR TensorBufferCopy(TensorBuffer &dst, const TensorBuffer &src);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| dst | 输出 | 复制后的目标内存。 |
| src | 输入 | 待复制的源内存。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBuffer
GetBufferCopyType
函数功能
获取两块TensorBuffer内存的数据类型。
函数原型
static TensorBufferCopyType GetBufferCopyType(const TensorBuffer &buffer1, const TensorBuffer &buffer2);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| buffer1 | 输入 | TensorBuffer对象。 |
| buffer2 | 输入 | TensorBuffer对象。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| TensorBufferCopyType | 两块内存拷贝类型。 - HOST_AND_HOST：两块都为Host侧内存。 - HOST_AND_DEVICE：一块为Host侧内存，另一块为Device侧。 - DEVICE_AND_SAME_DEVICE：两块都为Device侧内存，且deviceId相同。 - DEVICE_AND_DIFF_DEVICE：两块都为Device侧内存，且deviceId不同。 |
父主题： TensorBuffer
CheckCopyValid
函数功能
检测两块TensorBuffer对象的内存长度是否相同，符合相互拷贝条件。
函数原型
static APP_ERROR CheckCopyValid(const TensorBuffer &buffer1, const TensorBuffer &buffer2);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| buffer1 | 输入 | TensorBuffer对象。要求保证实际分配的内存大小与size一致。 |
| buffer2 | 输入 | TensorBuffer对象。要求保证实际分配的内存大小与size一致。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| TensorBufferCopyType | 两块TensorBuffer内存的数据类型。 - HOST_AND_HOST：两块都为Host侧内存。 - HOST_AND_DEVICE：一块为Host侧内存，另一块为Device侧。 - DEVICE_AND_SAME_DEVICE：两块都为Device侧内存，且deviceId相同。 - DEVICE_AND_DIFF_DEVICE：两块都为Device侧内存，且deviceId不同。 |
父主题： TensorBuffer
CopyBetweenHost
函数功能
将Host侧的src对象拷贝至Host侧的dst对象。
函数原型
static APP_ERROR CopyBetweenHost(TensorBuffer &dst, const TensorBuffer &src);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| dst | 输入 | 复制后的目标内存。 |
| src | 输入 | 待复制的源内存。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBuffer
在线提单