ToDevice
GetBuffer
函数功能
用于获取Tensor指针。
函数原型1
void* GetBuffer() const;
返回参数说明1
| 数据结构 | 说明 |
|---|---|
| void* | 指针的首地址，即buffer指针。 |
函数原型2
APP_ERROR GetBuffer(void *&ptr, const std::vector<uint32_t> &indices) const;
参数说明2
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| ptr | 输出 | 获取到的buffer指针。 |
| indices | 输入 | 传入的索引列表，待复制的源内存。 |
返回参数说明2
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
函数原型3
template<typename T, typename... Ix>
APP_ERROR GetBuffer(T* &value, Ix... index) const;
参数说明3
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| value | 输出 | 获取到的buffer。 |
| index | 输入 | 传入的索引值。 |
返回参数说明3
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
GetValue
函数功能
获取Host侧的Tensor的buffer，首先判断Tensor是否在Host侧，然后在其中调用GetBuffer函数实现获取buffer的功能。
函数原型
template<typename T, typename... Ix>
APP_ERROR GetValue(T &value, Ix... index) const;
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| value | 输出 | 获取到对应Tensor的buffer。 |
| index | 输入 | 待获取Tensor的索引。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
ToDevice
函数功能
将Tensor对象部署到Device侧内存。
函数原型
APP_ERROR ToDevice(int32_t deviceId);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| deviceId | 输入 | 设备号。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
ToDvpp
函数功能
将Tensor对象部署到DVPP内存中。
函数原型
APP_ERROR ToDvpp(int32_t deviceId);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| deviceId | 输入 | 设备号。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
ToHost
函数功能
将Tensor对象部署到Host侧内存。
函数原型
APP_ERROR ToHost();
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
BatchConcat
函数功能
将多batch的Tensor组合成一个Tensor。
函数原型
static APP_ERROR BatchConcat(const std::vector<TensorBase> &inputs, TensorBase &output);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| inputs | 输入 | Tensor列表，列表大小不超过1024。 |
| output | 输出 | 组合后的Tensor对象。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码，请参考APP_ERROR说明。 |
父主题： TensorBase
在线提单