C# ONNXRuntime

### 如何在C#中使用ONNXRuntime

为了在C#项目中集成并利用ONNX Runtime执行推理操作，需先安装对应的NuGet包[^2]。

#### 安装ONNX Runtime NuGet包
可以通过Visual Studio中的NuGet管理器来添加`Microsoft.ML.OnnxRuntime`到当前解决方案。这一步骤确保了开发环境具备必要的依赖库支持。

#### 加载模型文件
一旦完成上述准备工作之后，在程序里加载预先训练好的ONNX格式模型：

using Microsoft.ML.OnnxRuntime;
using Microsoft.ML.OnnxRuntime.Tensors;

// 创建会话选项实例
var sessionOptions = new SessionOptions();
sessionOptions.ExecutionMode = ExecutionMode.ORT_SEQUENTIAL;

// 初始化InferenceSession对象用于后续调用
using var inferenceSession = new InferenceSession("path/to/model.onnx", sessionOptions);

此处路径参数应当指向实际存储的`.onnx`模型位置。

#### 准备输入数据
根据具体应用场景准备相应的张量作为模型预测时所需的输入。这里假设有一个简单的二维浮点数数组作为样本输入：

float[] inputData = { /* your input data here */ };
var tensor = new DenseTensor<float>(inputData, new int[] { 1, inputData.Length });
Dictionary<string, IDisposableReadOnlyRandomAccessStream> inputs = new Dictionary<string, IDisposableReadOnlyRandomAccessStream>();
inputs.Add(inferenceSession.InputMetadata.First().Key, MemoryBuffer.CreateFrom(tensor));

注意：这里的键名应匹配所使用的特定模型定义中的预期名称。

#### 执行推理过程
准备好一切后就可以调用`Run()`函数来进行前向传播计算得到输出结果：

using IDisposableReadOnlyCollection<DisposableNamedOnnxValue> results = inferenceSession.Run(inputs);

foreach (var result in results)
{
    Console.WriteLine($"Output name: {result.Key}");
    
    // 处理输出...
}

以上代码片段展示了基本的工作流程，对于更复杂的情况可能还需要额外处理诸如多批次输入、不同类型的张量转换等问题。