mbart25-multilingual-summarization-multilarge-cs

这个模型是在多语种大型摘要数据集上 facebook/mbart-large-cc25 进行微调的检查点，主要针对捷克文本以产生多语言摘要。

任务

该模型处理包含八种不同语言的多句摘要。通过添加其他外语文档，并拥有可观量的捷克文档，我们旨在提高捷克语摘要的质量。支持的语言：'en_XX' : 'en', 'de_DE': 'de', 'es_XX': 'es', 'fr_XX':'fr', 'ru_RU':'ru', 'tr_TR':'tr'。

用法

假设您正在使用提供的MultilingualSummarizer.ipynb文件和git存储库中包含的文件。

## Configuration of summarization pipeline
#
def summ_config():
    cfg = OrderedDict([
        
        ## summarization model - checkpoint
        #   ctu-aic/m2m100-418M-multilingual-summarization-multilarge-cs
        #   ctu-aic/mt5-base-multilingual-summarization-multilarge-cs
        #   ctu-aic/mbart25-multilingual-summarization-multilarge-cs
        ("model_name", "ctu-aic/mbart25-multilingual-summarization-multilarge-cs"),
        
        ## language of summarization task
        #   language : string : cs, en, de, fr, es, tr, ru, zh
        ("language", "en"), 
        
        ## generation method parameters in dictionary
        #
        ("inference_cfg", OrderedDict([
            ("num_beams", 4),
            ("top_k", 40),
            ("top_p", 0.92),
            ("do_sample", True),
            ("temperature", 0.95),
            ("repetition_penalty", 1.23),
            ("no_repeat_ngram_size", None),
            ("early_stopping", True),
            ("max_length", 128),
            ("min_length", 10),
        ])),
        #texts to summarize values = (list of strings, string, dataset)
        ("texts",
            [
               "english text1 to summarize",
               "english text2 to summarize",
            ]
        ),
        #OPTIONAL: Target summaries values = (list of strings, string, None)
        ('golds',
         [
               "target english text1",
               "target english text2",
         ]),
        #('golds', None),
    ])
    return cfg

cfg = summ_config()
msummarizer = MultiSummarizer(**cfg)
ret = msummarizer(**cfg)

数据集

多语种大型摘要数据集包含10个子数据集，主要基于新闻和日常邮件。对于训练，使用了整个训练集和72%的验证集。

Train set:        3 464 563 docs
Validation set:     121 260 docs

编码器（输入文本）的截断和填充为512个标记，解码器（摘要）为128个标记。

训练

基于交叉熵损失进行训练。

Time: 3 days 8 hours
Epochs: 860K steps cca 8 (from 10)
GPUs: 4x NVIDIA A100-SXM4-40GB
eloss: 2.214 - 1.762
tloss: 3.365 - 1.445

ROUGE结果（每个单独的数据集测试集）：