wandb怎么看模型梯度变化

使用wandb时，可以使用`wandb.watch(model)`函数来自动记录模型的梯度变化。在训练过程中，可以使用以下代码来可视化梯度变化：

import wandb
import torch.optim as optim

# 初始化wandb
wandb.init(project="my-project")

# 定义模型
model = MyModel()

# 定义优化器
optimizer = optim.Adam(model.parameters(), lr=0.001)

# 开始训练
for epoch in range(10):
    for batch_idx, (data, target) in enumerate(train_loader):
        # 将数据放入设备中
        data, target = data.to(device), target.to(device)

        # 将模型设为训练模式
        model.train()

        # 清空上一次梯度
        optimizer.zero_grad()

        # 计算模型输出
        output = model(data)

        # 计算损失
        loss = F.cross_entropy(output, target)

        # 反向传播
        loss.backward()

        # 可视化梯度
        wandb.log({"grad_norm": wandb.Histogram(model.named_parameters())})

        # 更新参数
        optimizer.step()

        # 打印训练日志
        if batch_idx % 100 == 0:
            print("Epoch: {}, Batch: {}, Loss: {}".format(epoch, batch_idx, loss.item()))

在上述代码中，我们使用`wandb.log()`函数记录模型的梯度变化，并使用`wandb.Histogram()`函数可视化梯度的直方图。在训练过程中，可以在wandb的dashboard中查看梯度变化的情况。