英文

vit-finetuned-chest-xray-pneumonia

这个模型是在 google/vit-base-patch16-224-in21k 数据集上进行 fine-tuned 的版本。它在评估集上取得了以下结果:

  • Loss: 0.1271
  • Accuracy: 0.9551

模型描述

需要更多信息

适用范围和限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数:

  • learning_rate: 2e-05
  • train_batch_size: 16
  • eval_batch_size: 8
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 10

训练结果

Training Loss Epoch Step Validation Loss Accuracy
No log 1.0 326 0.2739 0.9167
0.2238 2.0 652 0.2892 0.9071
0.2238 3.0 978 0.2077 0.9407
0.1385 4.0 1304 0.1349 0.9535
0.1347 5.0 1630 0.1271 0.9551
0.1347 6.0 1956 0.1458 0.9535
0.1112 7.0 2282 0.2040 0.9375
0.1063 8.0 2608 0.1423 0.9567
0.1063 9.0 2934 0.1473 0.9535
0.0944 10.0 3260 0.1385 0.9583

示例图片

肺炎胸部X光 正常胸部X光

框架版本

  • Transformers 4.17.0
  • Pytorch 1.10.0+cu111
  • Datasets 1.18.4
  • Tokenizers 0.11.6