您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
模型:
anton-l/xtreme_s_xlsr_300m_minds14
英文xtreme_s_xlsr_300m_minds14
这个模型是在GOOGLE/XTREME_S - MINDS14.ALL数据集上， fine-tuned版本的 facebook/wav2vec2-xls-r-300m 模型。它在评估集上实现了以下结果:
- 准确率：0.9033
- 准确率Cs-cz：0.9164
- 准确率De-de：0.9477
- 准确率En-au：0.9235
- 准确率En-gb：0.9324
- 准确率En-us：0.9326
- 准确率Es-es：0.9177
- 准确率Fr-fr：0.9444
- 准确率It-it：0.9167
- 准确率Ko-kr：0.8649
- 准确率Nl-nl：0.9450
- 准确率Pl-pl：0.9146
- 准确率Pt-pt：0.8940
- 准确率Ru-ru：0.8667
- 准确率Zh-cn：0.7291
- F1得分：0.9015
- F1得分Cs-cz：0.9154
- F1得分De-de：0.9467
- F1得分En-au：0.9199
- F1得分En-gb：0.9334
- F1得分En-us：0.9308
- F1得分Es-es：0.9158
- F1得分Fr-fr：0.9436
- F1得分It-it：0.9135
- F1得分Ko-kr：0.8642
- F1得分Nl-nl：0.9440
- F1得分Pl-pl：0.9159
- F1得分Pt-pt：0.8883
- F1得分Ru-ru：0.8646
- F1得分Zh-cn：0.7249
- 损失：0.4119
- 损失Cs-cz：0.3790
- 损失De-de：0.2649
- 损失En-au：0.3459
- 损失En-gb：0.2853
- 损失En-us：0.2203
- 损失Es-es：0.2731
- 损失Fr-fr：0.1909
- 损失It-it：0.3520
- 损失Ko-kr：0.5431
- 损失Nl-nl：0.2515
- 损失Pl-pl：0.4113
- 损失Pt-pt：0.4798
- 损失Ru-ru：0.6470
- 损失Zh-cn：1.1216
- 预测样本：4086
模型描述
需要更多信息
预期使用和限制
需要更多信息
培训和评估数据
需要更多信息
培训过程
训练超参数
训练过程中使用了以下超参数：
- 学习率：0.0003
- 训练批量大小：32
- 评估批量大小：8
- 种子：42
- 分布式类型：多GPU
- 设备数：2
- 总训练批量大小：64
- 总评估批量大小：16
- 优化器：Adam，betas=(0.9,0.999)，epsilon=1e-08
- lr_scheduler类型：线性
- lr_scheduler_warmup_steps：1500
- 训练周期数：50.0
- 混合精度训练：Native AMP
训练结果
| Training Loss | Epoch | Step | Validation Loss | F1 | Accuracy |
|---|---|---|---|---|---|
| 2.6739 | 5.41 | 200 | 2.5687 | 0.0430 | 0.1190 |
| 1.4953 | 10.81 | 400 | 1.6052 | 0.5550 | 0.5692 |
| 0.6177 | 16.22 | 600 | 0.7927 | 0.8052 | 0.8011 |
| 0.3609 | 21.62 | 800 | 0.5679 | 0.8609 | 0.8609 |
| 0.4972 | 27.03 | 1000 | 0.5944 | 0.8509 | 0.8523 |
| 0.1799 | 32.43 | 1200 | 0.6194 | 0.8623 | 0.8621 |
| 0.1308 | 37.84 | 1400 | 0.5956 | 0.8569 | 0.8548 |
| 0.2298 | 43.24 | 1600 | 0.5201 | 0.8732 | 0.8743 |
| 0.0052 | 48.65 | 1800 | 0.3826 | 0.9106 | 0.9103 |
框架版本
- Transformers 4.18.0.dev0
- Pytorch 1.10.2+cu113
- Datasets 2.0.1.dev0
- Tokenizers 0.11.6