如何在预训练模型加载时添加ignore_mismatched_sizes=True选项

当你需要在PyTorch的预训练模型（如BERT、ResNet等）加载时忽略大小不匹配的参数，可以在`from_pretrained()`函数中指定`ignore_mismatched_sizes=True`。这是一个示例：

import torch
from transformers import BertModel

# 加载预训练模型及其权重
pretrained_model_name_or_path = "bert-base-chinese"
state_dict = torch.load('your_custom_state_dict.pth', map_location='cpu')  # 替换为你的自定义状态字典路径

# 设置ignore_mismatched_sizes为True
model = BertModel.from_pretrained(
    pretrained_model_name_or_path,
    state_dict=state_dict,
    ignore_mismatched_sizes=True
)

# 现在模型会忽略大小不匹配的参数，但注意这可能导致部分功能不可用

这个选项通常用于更新模型参数或者处理不完全兼容的权重文件，但是它并不保证所有功能都能正常工作，所以在使用时要特别小心。