ToHost
ToDevice
函数功能
将Tensor对象部署到Device侧内存。
函数原型
APP_ERROR ToDevice(int32_t deviceId);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| deviceId | 输入 | 设备号。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
ToDvpp
函数功能
将Tensor对象部署到DVPP内存中。
函数原型
APP_ERROR ToDvpp(int32_t deviceId);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| deviceId | 输入 | 设备号。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
ToHost
函数功能
将Tensor对象部署到Host侧内存。
函数原型
APP_ERROR ToHost();
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
BatchConcat
函数功能
将多batch的Tensor组合成一个Tensor。
函数原型
static APP_ERROR BatchConcat(const std::vector<TensorBase> &inputs, TensorBase &output);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| inputs | 输入 | Tensor列表，列表大小不超过1024。 |
| output | 输出 | 组合后的Tensor对象。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
BatchStack
函数功能
将多batch的Tensor组合成一个Tensor，相比于BatchConcat拓展了Tensor的维度。
函数原型
static APP_ERROR BatchStack(const std::vector<TensorBase> &inputs, TensorBase &output);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| inputs | 输入 | Tensor列表，列表大小不超过1024。 |
| output | 输出 | 组合后的Tensor对象。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
BatchVector
函数功能
合并batch组合成一个Tensor。该函数实际调用BatchConcat和BatchStack，实现组batch操作，通过keepDims参数控制具体调用函数。
函数原型
static APP_ERROR BatchVector(const std::vector<TensorBase> &inputs, TensorBase &output, const bool &keepDims = false);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| inputs | 输入 | 多batch模型，将TensorBase对象列表作为输出。列表大小不超过1024。 |
| output | 输出 | 组batch后输出一个TensorBase对象。 |
| keepDims | 输入 | 保持其多维特性的参数。 - “true”即保持其维度特性函数内部调用函数BatchConcat实现。 - “false”即不保持维度特性函数内部调用函数BatchStack实现。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
在线提单