请问nni中如何按照评价指标mse进行调参

在 NNI（Neural Network Intelligence）中，你可以使用内置的 Tuner 类来进行超参数调优，以最小化评价指标 MSE（Mean Squared Error）。

首先，确保你已经安装并配置了 NNI。然后，按照以下步骤进行调参：

1. 创建一个配置文件（例如 config.yml），指定你的神经网络模型和超参数的搜索空间。示例如下：

authorName: your_name
experimentName: mse_tuning

trial:
  command: python3 train.py
  codeDir: .
  gpuNum: 0

tuner:
  builtinTunerName: TPE
  classArgs:
    optimize_mode: minimize

searchSpacePath: search_space.json

2. 创建一个搜索空间文件（例如 search_space.json），定义超参数的搜索范围。示例如下：

{
  "learning_rate": {
    "_type": "choice",
    "_value": [0.001, 0.01, 0.1]
  },
  "batch_size": {
    "_type": "choice",
    "_value": [16, 32, 64]
  },
  "hidden_units": {
    "_type": "choice",
    "_value": [[64, 32], [128, 64], [256, 128]]
  }
}

3. 在你的代码中，确保你的训练逻辑可以接受超参数作为输入，并将其用于训练过程。例如：

import argparse

def train_model(learning_rate, batch_size, hidden_units):
    # 在这里使用超参数训练模型
    pass

if __name__ == '__main__':
    parser = argparse.ArgumentParser()
    parser.add_argument('--learning_rate', type=float, default=0.01)
    parser.add_argument('--batch_size', type=int, default=32)
    parser.add_argument('--hidden_units', type=int, nargs='+', default=[64, 32])
    args = parser.parse_args()

    train_model(args.learning_rate, args.batch_size, args.hidden_units)

4. 在终端中运行以下命令启动 NNI 的超参数调优：

nnictl create --config config.yml

5. 接下来，NNI 将按照你指定的搜索空间和优化目标（最小化 MSE）来搜索超参数组合。NNI 将在每个试验（trial）中运行你的训练代码，并记录评价指标（MSE）的结果。

6. 最后，你可以使用 NNI 提供的 Web UI 或命令行工具来监视试验的进展和结果。一旦搜索完成，你可以选择最优的超参数组合来进行模型训练。

这是使用 NNI 按照评价指标 MSE 进行超参数调优的一般步骤。你可以根据自己的需求调整配置和搜索空间文件。