thai-bert-multi-cased-finetuned-xquadv1-finetuned-squad

这个模型是根据 iApp Technology Co., Ltd. 上的泰语数据集进行微调的版本。

目标和限制

这个模型旨在用于泰语问答任务。

训练和评估数据

通过 iApp Technology Co., Ltd. 数据集进行训练和评估。

训练过程

训练超参数

在训练过程中使用了以下超参数：

• 学习率：3e-05
• 训练批次大小：2
• 评估批次大小：2
• 种子：42
• 梯度累积步数：2
• 总训练批次大小：4
• 优化器：Adam，betas=(0.9,0.999)，epsilon=1e-08
• 学习率调度器类型：linear
• 训练轮数：2

性能

在SQuAD 1.0测试数据集上进行评估。

"exact": 57.39972337482711
"f1": 68.10794016188211
"total": 723

框架版本

• Transformers 4.12.3
• Pytorch 1.9.0+cu111
• Datasets 1.15.1
• Tokenizers 0.10.3