Whisper medium Sw2 - Kiazi Bora
这个模型是在Common Voice 11.0数据集上对
openai/whisper-medium
进行微调的版本。在评估集上取得以下结果:
- Loss: 0.4788
- Wer: 32.9689
模型描述
需要更多信息
使用目的和限制
需要更多信息
训练和评估数据
需要更多信息
训练过程
训练超参数
训练过程中使用了以下超参数:
- learning_rate: 1e-05
- train_batch_size: 16
- eval_batch_size: 8
- seed: 42
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
- lr_scheduler_type: linear
- lr_scheduler_warmup_steps: 500
- training_steps: 2000
- mixed_precision_training: Native AMP
训练结果
Training Loss
|
Epoch
|
Step
|
Validation Loss
|
Wer
|
0.4257
|
0.43
|
1000
|
0.5451
|
36.7129
|
0.3494
|
0.87
|
2000
|
0.4788
|
32.9689
|
框架版本
- Transformers 4.26.0.dev0
- PyTorch 1.13.0+cu116
- Datasets 2.7.1
- Tokenizers 0.13.2