lmqg/mt5-small-frquad-qg-ae模型卡片

此模型是通过 lmqg 在 lmqg/qg_frquad （default数据集）上对 google/mt5-small 进行联合问题生成和答案提取的微调版本。

概述

• 语言模型： google/mt5-small
• 语言：fr
• 训练数据： lmqg/qg_frquad （default）
• 在线演示： https://autoqg.net/
• 存储库： https://github.com/asahi417/lm-question-generation
• 论文： https://arxiv.org/abs/2210.03992

用法

• 使用 lmqg

from lmqg import TransformersQG

# initialize model
model = TransformersQG(language="fr", model="lmqg/mt5-small-frquad-qg-ae")

# model prediction
question_answer_pairs = model.generate_qa("Créateur » (Maker), lui aussi au singulier, « le Suprême Berger » (The Great Shepherd) ; de l'autre, des réminiscences de la théologie de l'Antiquité : le tonnerre, voix de Jupiter, « Et souvent ta voix gronde en un tonnerre terrifiant », etc.")

• 使用transformers

from transformers import pipeline

pipe = pipeline("text2text-generation", "lmqg/mt5-small-frquad-qg-ae")

# answer extraction
answer = pipe("generate question: Créateur » (Maker), lui aussi au singulier, « <hl> le Suprême Berger <hl> » (The Great Shepherd) ; de l'autre, des réminiscences de la théologie de l'Antiquité : le tonnerre, voix de Jupiter, « Et souvent ta voix gronde en un tonnerre terrifiant », etc.")

# question generation
question = pipe("extract answers: Pourtant, la strophe spensérienne, utilisée cinq fois avant que ne commence le chœur, constitue en soi un vecteur dont les répétitions structurelles, selon Ricks, relèvent du pur lyrisme tout en constituant une menace potentielle. Après les huit sages pentamètres iambiques, l'alexandrin final <hl> permet une pause <hl>, « véritable illusion d'optique » qu'accentuent les nombreuses expressions archaïsantes telles que did swoon, did seem, did go, did receive, did make, qui doublent le prétérit en un temps composé et paraissent à la fois « très précautionneuses et très peu pressées ».")

评估

• 指标（问题生成）： raw metric file

• 指标（问题和答案生成）： raw metric file

• 指标（答案提取）： raw metric file

训练超参数

在微调过程中使用了以下超参数：

• dataset_path：lmqg/qg_frquad
• dataset_name：default
• input_types：['paragraph_answer'，'paragraph_sentence']
• output_types：['question'，'answer']
• prefix_types：['qg'，'ae']
• model：google/mt5-small
• max_length：512
• max_length_output：32
• epoch：18
• batch：64
• lr：0.0005
• fp16：False
• random_seed：1
• gradient_accumulation_steps：1
• label_smoothing：0.15

完整配置可以在 fine-tuning config file 找到。

引用

@inproceedings{ushio-etal-2022-generative,
    title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration",
    author = "Ushio, Asahi  and
        Alva-Manchego, Fernando  and
        Camacho-Collados, Jose",
    booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing",
    month = dec,
    year = "2022",
    address = "Abu Dhabi, U.A.E.",
    publisher = "Association for Computational Linguistics",
}