英文

PegasusXSUM_GNAD

此模型是基于未知数据集对 Einmalumdiewelt/PegasusXSUM_GNAD 进行微调的版本。它在评估集上取得以下结果:

  • 损失:2.4386
  • Rouge1:26.7818
  • Rouge2:7.6864
  • Rougel:18.6264
  • Rougelsum:22.822
  • 生成长度:67.076

模型描述

需要更多信息

使用目的和限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

在训练过程中使用了以下超参数:

  • 学习率:5e-05
  • 训练批大小:2
  • 评估批大小:2
  • 种子:42
  • 优化器:Adam,beta=(0.9, 0.999),epsilon=1e-08
  • 学习率调度器类型:linear
  • 训练轮数:10.0

训练结果

框架版本

  • Transformers 4.22.0.dev0
  • Pytorch 1.12.0+cu113
  • Datasets 2.4.0
  • Tokenizers 0.12.1