您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
模型:
mrm8488/t5-small-finetuned-wikisql-sql-nl-nl-sql
英文t5-small-finetuned-wikisql-sql-nl-nl-sql
这个模型是基于None数据集进行fine-tuning的 t5-small 的版本。在评估集上取得以下结果：
- 损失：0.1932
- Bleu得分：41.8787
- 生成长度：16.6251
模型描述
需要更多信息
预期用途和限制
需要更多信息
训练和评估数据
需要更多信息
训练过程
训练超参数
训练过程中使用了以下超参数：
- 学习率：5e-05
- 训练批大小：16
- 评估批大小：16
- 随机种子：42
- 优化器：Adam，beta值为(0.9, 0.999)，epsilon为1e-08
- 学习率调度器类型：linear
- 训练轮数：5
训练结果
| Training Loss | Epoch | Step | Validation Loss | Bleu | Gen Len |
|---|---|---|---|---|---|
| 0.2655 | 1.0 | 8097 | 0.2252 | 39.7999 | 16.6893 |
| 0.2401 | 2.0 | 16194 | 0.2066 | 40.9456 | 16.6712 |
| 0.2236 | 3.0 | 24291 | 0.1985 | 41.3509 | 16.5884 |
| 0.2158 | 4.0 | 32388 | 0.1944 | 41.6988 | 16.6165 |
| 0.2122 | 5.0 | 40485 | 0.1932 | 41.8787 | 16.6251 |
框架版本
- Transformers 4.18.0
- Pytorch 1.10.0+cu111
- Datasets 2.0.0
- Tokenizers 0.11.6