santacoder-finetuned-unit-test

模型是对 bigcode/santacoder 在一个未知数据集上进行fine-tuned的版本。它在评估集上达到以下结果:

• 损失: 1.2783

模型描述

需要更多信息

使用限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

训练时使用了以下超参数:

• 学习率: 5e-05
• 训练批大小: 1
• 评估批大小: 1
• 种子: 42
• 梯度累积步数: 8
• 总训练批大小: 8
• 优化器: Adam with betas=(0.9,0.999) and epsilon=1e-08
• 学习率调度器类型: cosine
• 学习率调度器预热步数: 100
• 训练步数: 1000

训练结果

框架版本

• Transformers 4.28.0
• Pytorch 2.0.1+cu118
• Datasets 2.12.0
• Tokenizers 0.13.3