模型:

hyunwoongko/kobart

英文

KoBART-base-v2

通过添加聊天数据,该模型被训练来处理比KoBART更长语句的语义。

from transformers import PreTrainedTokenizerFast, BartModel

tokenizer = PreTrainedTokenizerFast.from_pretrained('hyunwoongko/kobart')
model = BartModel.from_pretrained('hyunwoongko/kobart')

性能

NSMC

  • acc.:0.901

hyunwoongko/kobart

  • 添加了bos/eos后处理器
  • 去除了token_type_ids