dddd_trainer训练教程

dd-trainer 是一个基于 PyTorch 的深度学习模型训练框架，可以用于训练各种自然语言处理模型，比如文本分类、情感分析、机器翻译、问答系统等等。下面是一个简单的 dd-trainer 训练教程：

1. 安装 dd-trainer

可以通过 pip 安装 dd-trainer：

pip install dd-trainer

2. 准备数据

dd-trainer 支持多种数据格式，比如 CSV、JSON、XML、TXT 等等。你需要将你的数据转换为 dd-trainer 支持的格式，并将其分成训练集、验证集和测试集。下面是一个 CSV 格式的数据示例：

text,label
"这是一篇正面的文章。",1
"这是一篇负面的文章。",0

其中，`text` 列是文本数据，`label` 列是对应的分类标签。

3. 定义模型

你需要定义一个模型类，继承自 `dd_trainer.models.base.ModelBase` 类，并实现 `forward` 方法。下面是一个简单的文本分类模型示例：

import torch.nn as nn

class TextClassificationModel(ModelBase):
    def __init__(self, vocab_size, num_classes, embedding_dim, hidden_dim, num_layers):
        super().__init__()
        self.embedding = nn.Embedding(vocab_size, embedding_dim)
        self.rnn = nn.LSTM(embedding_dim, hidden_dim, num_layers, bidirectional=True)
        self.fc = nn.Linear(hidden_dim * 2, num_classes)

    def forward(self, inputs):
        x = self.embedding(inputs)
        x, _ = self.rnn(x)
        x = x.mean(dim=1)
        x = self.fc(x)
        return x

这个模型使用了一个双向 LSTM 来提取文本特征，并通过一个全连接层将特征映射为分类标签。

4. 配置训练参数

你需要定义一个字典类型的训练参数，包括模型类、数据路径、训练批次大小、学习率、损失函数、优化器等等。下面是一个简单的训练参数示例：

config = {
    'model_class': TextClassificationModel,
    'data_path': 'data.csv',
    'batch_size': 32,
    'lr': 0.001,
    'loss_fn': nn.CrossEntropyLoss(),
    'optimizer': torch.optim.Adam,
    'optimizer_kwargs': {'weight_decay': 0.01},
    'num_epochs': 10,
    'device': 'cuda',
    'log_step': 10,
    'save_step': 100,
    'output_dir': 'output',
}

5. 训练模型

你可以通过以下代码开始训练模型：

from dd_trainer.trainers import TextClassificationTrainer

trainer = TextClassificationTrainer(config)
trainer.train()

这个训练器会自动加载数据、模型，并在指定的设备上训练模型。训练过程中，你可以在控制台看到训练的进度和损失值。

6. 测试模型

你可以通过以下代码测试模型：

from dd_trainer.utils import load_model, load_data

model = load_model('output/best_model.pt')
data = load_data('data.csv', 'test')
inputs, labels = data['inputs'], data['labels']

with torch.no_grad():
    outputs = model(inputs)
    preds = outputs.argmax(dim=-1)
    acc = (preds == labels).float().mean().item()

print(f'Test accuracy: {acc}')

这个代码会加载训练好的模型和测试数据，并在测试数据上计算准确率。