config.yaml文件编写

config.yaml文件是用于配置模型训练参数的文件，下面是一个常用的config.yaml文件的示例：

# 训练数据的路径
train_data_file: data/train.txt
# 验证数据的路径
eval_data_file: data/eval.txt
# 模型保存路径
output_dir: output/
# 训练过程中的checkpoint保存路径
model_checkpoint_dir: checkpoints/
# 使用的模型名称
model_name_or_path: gpt2-medium
# 训练的batch size
per_device_train_batch_size: 2
# 验证的batch size
per_device_eval_batch_size: 2
# 训练的轮数
num_train_epochs: 3
# 学习率
learning_rate: 5e-5
# 优化器名称
optimizer_name: AdamW
# 梯度累积步数
gradient_accumulation_steps: 8
# 权重衰减
weight_decay: 0.01
# 预热步数
warmup_steps: 100
# 是否使用fp16训练
fp16: true
# 是否使用混合精度训练
fp16_full_eval: true
# 是否打印训练过程中的详细日志
logging_steps: 100
# 是否保存训练过程中的checkpoint
save_steps: 1000
# 是否使用早停策略
early_stopping_patience: 5

在这个示例中，我们指定了训练数据和验证数据的路径，模型的保存路径和checkpoint的保存路径，以及使用的预训练模型名称等。通过修改这些参数，可以方便地调整模型的训练过程。