pytorch训练模型，如果loss值太小便不保存的方法

可以使用PyTorch的EarlyStopping回调函数来解决这个问题。EarlyStopping会监控验证集的loss值，并在loss值连续若干个epoch不再下降时停止训练，并保存最佳模型参数。

下面是一段示例代码：

from torch.utils.data import DataLoader
from torch.optim import Adam
from torch.nn import CrossEntropyLoss
from torch.optim.lr_scheduler import ReduceLROnPlateau
from ignite.engine import Events, create_supervised_trainer, create_supervised_evaluator
from ignite.metrics import Loss, Accuracy
from ignite.handlers import EarlyStopping

# 定义模型、数据集、优化器、损失函数等

# 定义训练器
trainer = create_supervised_trainer(model, optimizer, loss_fn, device)

# 定义验证器
evaluator = create_supervised_evaluator(model, metrics={'accuracy': Accuracy(), 'loss': Loss(loss_fn)}, device=device)

# 定义EarlyStopping回调函数
early_stopping = EarlyStopping(patience=10, score_function=lambda engine: -engine.state.metrics['loss'], trainer=trainer)
evaluator.add_event_handler(Events.COMPLETED, early_stopping)

# 开始训练
for epoch in range(num_epochs):
    # 训练一个epoch
    trainer.run(train_loader)
    
    # 在验证集上评估模型
    evaluator.run(val_loader)
    
    # 打印评估结果
    print('Epoch {} - loss: {:.4f} - accuracy: {:.4f}'.format(epoch+1, evaluator.state.metrics['loss'], evaluator.state.metrics['accuracy']))
    
    # 检查是否需要停止训练
    if early_stopping.early_stop:
        print('Early stopping')
        break

在这个例子中，EarlyStopping的patience参数设置为10，意味着如果连续10个epoch验证集的loss值没有下降，就停止训练。score_function指定了EarlyStopping使用哪个指标来评估模型的表现，这里使用了负的验证集loss值。trainer参数指定了EarlyStopping要监控的训练器，在这个例子中就是我们定义的trainer。最后在每个epoch结束后检查early_stopping.early_stop的值，如果为True就停止训练。