%%bash # launch final training with five random seeds for VTAB-dmlab, sun397 and eurosat. The hyperparameters are the same from our paper. model_root=<MODEL_ROOT> data_path=<DATA_PATH> output_dir=<OUTPUT_DIR> # vtab-structured: dmlab # base_lr = 1.0 # lr = base_lr / 256 * cfg.DATA.BATCH_SIZE for seed in "42" "44" "82" "100" "800"; do python train.py \ --config-file configs/prompt/cub.yaml \ MODEL.TYPE "swin" \ DATA.BATCH_SIZE "8" \ MODEL.PROMPT.NUM_TOKENS "50" \ MODEL.PROMPT.DEEP "True" \ MODEL.PROMPT.DROPOUT "0.1" \ DATA.FEATURE "swinb_imagenet22k_224" \ DATA.NAME "StanfordCars" \ DATA.NUMBER_CLASSES "6" \ SOLVER.BASE_LR "0.25" \ SOLVER.WEIGHT_DECAY "0.001" \ SEED ${seed} \ MODEL.MODEL_ROOT "${model_root}" \ DATA.DATAPATH "${data_path}" \ OUTPUT_DIR "${output_dir}/seed${seed}" done
时间: 2023-06-20 20:08:53 浏览: 158
这段代码是用于训练一个基于 Swin Transformer 的模型,使用 CUB-200 数据集进行训练,优化器采用的是 SGD,初始学习率为 0.25,权重衰减为 0.001。训练时使用了 Prompt 的技术,Prompt 的 token 数量为 50,同时进行了深度 Prompt 和 0.1 的 Dropout。训练过程中使用了 5 个不同的随机种子进行训练,分别是 42、44、82、100、800。训练数据的 batch size 为 8,使用的 backbone 是 swinb_imagenet22k_224。最终的训练结果会保存在指定的输出目录中。
阅读全文