IT5小型问题回答模型⁉️ ??

此仓库包含在 SQuAD-IT corpus 上用于提取式问题回答的 IT5 Small 模型的检查点，作为 Gabriele Sarti 和 Malvina Nissim 撰写的论文 IT5: Large-scale Text-to-text Pretraining for Italian Language Understanding and Generation 的实验的一部分。

有关其他已发布材料的详细概述，请参阅 gsarti/it5 仓库。有关报告的分数和评估方法的附加详细信息，请参阅论文。

使用模型

模型检查点可用于Tensorflow，Pytorch和JAX中使用。可以直接使用管道，例如：

from transformers import pipelines

qa = pipeline("text2text-generation", model='it5/it5-small-question-answering')
qa("In seguito all' evento di estinzione del Cretaceo-Paleogene, l' estinzione dei dinosauri e il clima umido possono aver permesso alla foresta pluviale tropicale di diffondersi in tutto il continente. Dal 66-34 Mya, la foresta pluviale si estendeva fino a sud fino a 45°. Le fluttuazioni climatiche degli ultimi 34 milioni di anni hanno permesso alle regioni della savana di espandersi fino ai tropici. Durante l' Oligocene, ad esempio, la foresta pluviale ha attraversato una banda relativamente stretta. Si espandeva di nuovo durante il Miocene medio, poi si ritrasse ad una formazione prevalentemente interna all' ultimo massimo glaciale. Tuttavia, la foresta pluviale è riuscita ancora a prosperare durante questi periodi glaciali, consentendo la sopravvivenza e l' evoluzione di un' ampia varietà di specie. Domanda: La foresta pluviale amazzonica è diventata per lo più una foresta interna intorno a quale evento globale?")
>>> [{"generated_text": "ultimo massimo glaciale"}]

或者使用自动类加载：

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("it5/it5-small-question-answering")
model = AutoModelForSeq2SeqLM.from_pretrained("it5/it5-small-question-answering")

如果您在研究中使用此模型，请引用我们的工作：

@article{sarti-nissim-2022-it5,
    title={{IT5}: Large-scale Text-to-text Pretraining for Italian Language Understanding and Generation},
    author={Sarti, Gabriele and Nissim, Malvina},
    journal={ArXiv preprint 2203.03759},
    url={https://arxiv.org/abs/2203.03759},
    year={2022},
    month={mar}
}