Whisper Medium Urdu
该模型是在mozilla-foundation/common_voice_11_0数据集上细调的版本,模型编号为
openai/whisper-medium
。它在评估集上达到以下结果:
- Loss: 0.4685
- Wer: 26.9801
模型描述
需要更多信息
使用和限制
需要更多信息
训练和评估数据
需要更多信息
训练过程
训练超参数
训练时使用了以下超参数:
- learning_rate: 1e-05
- train_batch_size: 32
- eval_batch_size: 16
- seed: 42
- optimizer: Adam,betas=(0.9,0.999),epsilon=1e-08
- lr_scheduler_type: linear
- lr_scheduler_warmup_steps: 40
- training_steps: 300
- mixed_precision_training: Native AMP
训练结果
Training Loss
|
Epoch
|
Step
|
Validation Loss
|
Wer
|
0.3908
|
0.48
|
100
|
0.5148
|
30.7061
|
0.3519
|
0.97
|
200
|
0.4685
|
26.9801
|
0.2426
|
1.45
|
300
|
0.4636
|
28.5023
|
框架版本
- Transformers 4.26.0.dev0
- Pytorch 1.13.0+cu117
- Datasets 2.7.1.dev0
- Tokenizers 0.13.2