mt5-base-multilingual-summarization-multilarge-cs

这个模型是在以捷克文本为重点的多语种大型摘要数据集上，基于 google/mt5-base 进行微调的检查点，用于生成多语种摘要。

任务

该模型处理了八种不同语言的多句子摘要。通过添加其他外语文档，并且有大量的捷克文档，我们旨在改善捷克语言的摘要。

#使用方法

## Configuration of summarization pipeline
#
def summ_config():
    cfg = OrderedDict([
        
        ## summarization model - checkpoint
        #   ctu-aic/m2m100-418M-multilingual-summarization-multilarge-cs
        #   ctu-aic/mt5-base-multilingual-summarization-multilarge-cs
        #   ctu-aic/mbart25-multilingual-summarization-multilarge-cs
        ("model_name", "ctu-aic/mbart25-multilingual-summarization-multilarge-cs"),
        
        ## language of summarization task
        #   language : string : cs, en, de, fr, es, tr, ru, zh
        ("language", "en"), 
        
        ## generation method parameters in dictionary
        #
        ("inference_cfg", OrderedDict([
            ("num_beams", 4),
            ("top_k", 40),
            ("top_p", 0.92),
            ("do_sample", True),
            ("temperature", 0.95),
            ("repetition_penalty", 1.23),
            ("no_repeat_ngram_size", None),
            ("early_stopping", True),
            ("max_length", 128),
            ("min_length", 10),
        ])),
        #texts to summarize values = (list of strings, string, dataset)
        ("texts",
            [
               "english text1 to summarize",
               "english text2 to summarize",
            ]
        ),
        #OPTIONAL: Target summaries values = (list of strings, string, None)
        ('golds',
         [
               "target english text1",
               "target english text2",
         ]),
        #('golds', None),
    ])
    return cfg

cfg = summ_config()
mSummarize = MultiSummarizer(**cfg)
summaries,scores = mSummarize(**cfg)

数据集

多语种大型摘要数据集由10个子数据集组成，主要基于新闻和每日邮件。训练过程中使用了整个训练集和验证集的72%。

Train set:        3 464 563 docs
Validation set:     121 260 docs

编码器（输入文本）设定为512个标记，解码器（摘要）设定为128个标记。

训练

基于交叉熵损失进行训练。

Time: 3 days 20 hours
Epochs: 1080K steps = 10 (from 10)
GPUs: 4x NVIDIA A100-SXM4-40GB
eloss: 2.462 - 1.797
tloss: 17.322 - 1.578

ROUGE结果：按照各个数据集的测试集计算

用法

soon