m2m100-418M-multilingual-summarization-multilarge-cs

该模型是在针对捷克文本的多语言大型摘要数据集上，使用 facebook/m2m100_418M 的Fine-tuned检查点进行微调的，以生成多语言摘要。

任务

该模型处理八种不同语言的多句子摘要。通过添加其他外语文档，并拥有大量的捷克文档，我们旨在改进捷克语摘要的模型。支持的语言：'cs'、'en'、'de'、'es'、'fr'、'ru'、'tu'、'zh'

#使用假设您正在使用提供的MultilingualSummarizer.ipynb文件和来自git存储库的包含文件。

## Configuration of summarization pipeline
#
def summ_config():
    cfg = OrderedDict([
        
        ## summarization model - checkpoint
        #   ctu-aic/m2m100-418M-multilingual-summarization-multilarge-cs
        #   ctu-aic/mt5-base-multilingual-summarization-multilarge-cs
        #   ctu-aic/mbart25-multilingual-summarization-multilarge-cs
        ("model_name", "ctu-aic/mbart25-multilingual-summarization-multilarge-cs"),
        
        ## language of summarization task
        #   language : string : cs, en, de, fr, es, tr, ru, zh
        ("language", "en"), 
        
        ## generation method parameters in dictionary
        #
        ("inference_cfg", OrderedDict([
            ("num_beams", 4),
            ("top_k", 40),
            ("top_p", 0.92),
            ("do_sample", True),
            ("temperature", 0.95),
            ("repetition_penalty", 1.23),
            ("no_repeat_ngram_size", None),
            ("early_stopping", True),
            ("max_length", 128),
            ("min_length", 10),
        ])),
        #texts to summarize values = (list of strings, string, dataset)
        ("texts",
            [
               "english text1 to summarize",
               "english text2 to summarize",
            ]
        ),
        #OPTIONAL: Target summaries values = (list of strings, string, None)
        ('golds',
         [
               "target english text1",
               "target english text2",
         ]),
        #('golds', None),
    ])
    return cfg

cfg = summ_config()
mSummarize = MultiSummarizer(**cfg)
summaries,scores = mSummarize(**cfg)

数据集

多语言大型摘要数据集包含10个子数据集，主要基于新闻和每日邮件。训练时使用了整个训练集和72%的验证集。

Train set:        3 464 563 docs
Validation set:     121 260 docs

编码器（输入文本）的截断和填充设置为512个标记，解码器（摘要）设置为128个标记。

训练

基于交叉熵损失进行训练。

Time: 3 days 10 hours
Epochs: 1072K steps = 10 (from 10)
GPUs: 4x NVIDIA A100-SXM4-40GB
eloss: 2.824 - 1.745
tloss: 4.559 - 1.615

每个独立数据集测试集的 ROUGE 结果：

使用方法

soon