英文

Whisper tiny by ehzawad

该模型是在Common Voice 13.0数据集上对 openai/whisper-tiny 进行微调的版本。在评估集上达到以下结果:

  • 损失:0.2422
  • 错误率(WER):75.4095

模型描述

需要更多信息

预期用途和限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数:

  • 学习率:1e-05
  • 训练批大小:16
  • 评估批大小:8
  • 随机种子:42
  • 优化器:Adam,beta值为(0.9,0.999),epsilon为1e-08
  • 学习率调度器类型:linear
  • 学习率调度器预热步数:500
  • 训练步数:4000
  • 混合精度训练:Native AMP

训练结果

Training Loss Epoch Step Validation Loss Wer
0.3593 0.53 1000 0.3717 102.7311
0.2502 1.07 2000 0.2802 81.0367
0.2219 1.6 3000 0.2535 80.8361
0.2069 2.14 4000 0.2422 75.4095

框架版本

  • Transformers 4.30.0.dev0
  • Pytorch 2.0.1+cu117
  • Datasets 2.12.0
  • Tokenizers 0.13.3