10k_MT5_small_sum-de_GNAD

该模型是在一个未知数据集上对 Einmalumdiewelt/10k_MT5_small_sum-de_GNAD 进行微调的版本。它在评估集上取得以下结果:

• 损失：2.4403
• Rouge1：24.9179
• Rouge2：7.8694
• Rougel：18.048
• Rougelsum：21.9371
• 生成长度：48.2693

模型描述

需要更多信息

预期用途和限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率：5e-05
• 训练批次大小：10
• 评估批次大小：10
• 种子：42
• 优化器：Adam，betas=(0.9,0.999)，epsilon=1e-08
• lr_scheduler_type：linear
• 迭代次数：10.0

训练结果

框架版本

• Transformers 4.22.0.dev0
• Pytorch 1.12.0+cu113
• Datasets 2.4.0
• Tokenizers 0.12.1