英文

wav2vec2-base-lang-id

这个模型是在 anton-l/common_language 数据集上对 facebook/wav2vec2-base 进行微调得到的。在评估集上取得了以下结果:

  • Loss: 0.9836
  • Accuracy: 0.7945

模型描述

需要更多信息

预期用途和限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

在训练过程中使用了以下超参数:

  • learning_rate: 0.0003
  • train_batch_size: 32
  • eval_batch_size: 4
  • seed: 0
  • gradient_accumulation_steps: 4
  • total_train_batch_size: 128
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_ratio: 0.1
  • num_epochs: 10.0
  • mixed_precision_training: Native AMP

训练结果

Training Loss Epoch Step Validation Loss Accuracy
2.9568 1.0 173 3.2866 0.1146
1.9243 2.0 346 2.1241 0.3840
1.2923 3.0 519 1.5498 0.5489
0.8659 4.0 692 1.4953 0.6126
0.5539 5.0 865 1.2431 0.6926
0.4101 6.0 1038 1.1443 0.7232
0.2945 7.0 1211 1.0870 0.7544
0.1552 8.0 1384 1.1080 0.7661
0.0968 9.0 1557 0.9836 0.7945
0.0623 10.0 1730 1.0252 0.7993

框架版本

  • Transformers 4.11.0.dev0
  • Pytorch 1.9.1+cu111
  • Datasets 1.12.1
  • Tokenizers 0.10.3