英文

swin-tiny-patch4-window7-224-BottomSportsCasual

这个模型是在图像文件夹数据集上针对 microsoft/swin-tiny-patch4-window7-224 进行微调的版本。它在评估集上达到了以下结果:

  • Loss(损失):0.0189
  • Accuracy(准确率):0.9955

模型描述

需要更多信息

预期用途和限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

在训练过程中使用了以下超参数:

  • 学习率(learning_rate):5e-05
  • 训练批次大小(train_batch_size):8
  • 评估批次大小(eval_batch_size):8
  • 随机种子(seed):42
  • 梯度累积步数(gradient_accumulation_steps):7
  • 总训练批次大小(total_train_batch_size):56
  • 优化器(optimizer):Adam,betas=(0.9, 0.999),epsilon=1e-08
  • 学习率调度器类型(lr_scheduler_type):linear
  • 学习率调度器预热比例(lr_scheduler_warmup_ratio):0.01
  • 训练轮数(num_epochs):10

训练结果

Training Loss Epoch Step Validation Loss Accuracy
0.1765 1.0 141 0.0538 0.9796
0.1572 2.0 283 0.0309 0.9886
0.1412 2.99 424 0.0167 0.9943
0.0825 4.0 566 0.0217 0.9898
0.0881 4.99 707 0.0278 0.9921
0.102 6.0 849 0.0189 0.9955
0.0784 7.0 991 0.0167 0.9932
0.0902 8.0 1132 0.0255 0.9921
0.0686 9.0 1274 0.0182 0.9932
0.0529 9.96 1410 0.0157 0.9943

框架版本

  • Transformers 4.29.2
  • Pytorch 2.0.0
  • Datasets 2.12.0
  • Tokenizers 0.13.3