英文

sec-bert-finetuned-finance-classification

这个模型是 nlpaueb/sec-bert-base 在 sentence_50Agree financial-phrasebank + Kaggle Dataset 数据集上经过微调的版本,该数据集包含了4840条按情感(负面、中立、正面)分类的金融新闻。Kaggle数据集中包含了Covid-19情感数据,可以在此处找到: sentiment-classification-selflabel-dataset

在评估集上取得了以下结果:

  • 损失:0.5277
  • 准确率:0.8755
  • F1分数:0.8744
  • 精确度:0.8754
  • 召回率:0.8755

模型描述

需要更多信息。

预期用途和限制

需要更多信息。

训练和评估数据

需要更多信息。

训练流程

训练超参数

在训练过程中使用了以下超参数:

  • learning_rate:2e-05
  • train_batch_size:64
  • eval_batch_size:64
  • seed:42
  • optimizer:Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type:linear
  • num_epochs:8
  • mixed_precision_training:Native AMP

训练结果

Training Loss Epoch Step Validation Loss Accuracy F1 Precision Recall
0.6005 0.99 71 0.3702 0.8478 0.8465 0.8491 0.8478
0.3226 1.97 142 0.3172 0.8834 0.8822 0.8861 0.8834
0.2299 2.96 213 0.3313 0.8814 0.8805 0.8821 0.8814
0.1277 3.94 284 0.3925 0.8775 0.8771 0.8770 0.8775
0.0764 4.93 355 0.4517 0.8715 0.8704 0.8717 0.8715
0.0533 5.92 426 0.4851 0.8735 0.8728 0.8731 0.8735
0.0363 6.9 497 0.5107 0.8755 0.8743 0.8757 0.8755
0.0248 7.89 568 0.5277 0.8755 0.8744 0.8754 0.8755

框架版本

  • Transformers 4.17.0
  • Pytorch 1.10.0+cu111
  • Datasets 1.18.4
  • Tokenizers 0.11.6