gpt-neo-125M-imdb

此模型是根据imdb数据集上的 EleutherAI/gpt-neo-125M 进行微调的版本。

模型描述

需要更多信息

使用限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率：5e-05
• 训练批次大小：8
• 评估批次大小：8
• 种子：42
• 优化器：Adam，beta值为(0.9,0.999)，epsilon为1e-08
• lr_scheduler_type：linear
• 训练轮数：1.0

训练结果

框架版本

• Transformers 4.26.1
• Pytorch 1.13.1+cu117
• Datasets 2.9.0
• Tokenizers 0.13.2