GetDataFormat
ModelInference
函数功能
用于执行模型推理。需要先执行Init方法初始化模型。
函数原型
APP_ERROR ModelInference (
std::vector<BaseTensor>& inputTensors,
std::vector<BaseTensor>& outputTensors,
size_t dynamicBatchSize = 0
);
APP_ERROR ModelInference (
std::vector<BaseTensor>& inputTensors,
std::vector<BaseTensor>& outputTensors,
DynamicInfo dynamicInfo
);
APP_ERROR ModelInference (
const std::vector<TensorBase>& inputTensors,
std::vector<TensorBase>& outputTensors,
DynamicInfo dynamicInfo
);
参数说明
| 参数名 | 输入/输出 | 说明 |
|---|---|---|
| inputTensors | 输入 | 输入张量,模型推理的输入数据。 |
| outputTensors | 输出 | 输出张量,模型推理的输出数据。 |
| dynamicBatchSize | 输入 | 指定模型推理时的批量大小Batch。 |
| dynamicInfo | 输入 | 动态Batch的信息。 |
返回参数说明
| 数据结构 | 说明 |
|---|---|
| APP_ERROR | 程序执行返回的错误码,请参考APP_ERROR说明。 |
GetModelDesc
函数功能
用于获得模型描述信息。
函数原型
const ModelDesc& GetModelDesc() const;
返回参数说明
| 数据结构 | 说明 |
|---|---|
| ModelDesc | 具体请参考ModelDesc。 |
GetDataFormat
函数功能
用于获得数据格式。
函数原型
DataFormat GetDataFormat() const;
返回参数说明
| 数据结构 | 说明 |
|---|---|
| DataFormat | 具体请参考DataFormat。 |
GetDynamicType
函数功能
用于获得数据动态类型,包括静态BatchSize,动态BatchSize以及ImageSize(分辨率)。
函数原型
DynamicType GetDynamicType() const;
返回参数说明
| 数据结构 | 说明 |
|---|---|
| DynamicType | 具体请参考DynamicType。 |
GetInputDataType
函数功能
用于获得输入数据的类型。
函数原型
std::vector<TensorDataType> GetInputDataType() const;
返回参数说明
| 数据结构 | 说明 |
|---|---|
| std::vector | 具体请参考TensorDataType。 |
在线提单