XLM-RoBERTa大模型用于越南语（并支持多种语言）的问答

概述

• 语言模型：xlm-roberta-large
• 微调： deepset/xlm-roberta-large-squad2
• 语言：越南语
• 下游任务：抽取性问答
• 数据集： mailong25/bert-vietnamese-question-answering
• 训练数据：train-v2.0.json（SQuAD 2.0格式）
• 评估数据：dev-v2.0.json（SQuAD 2.0格式）
• 基础设施：1x Tesla P100（Google Colab）

性能

在dev-v2.0.json上评估

  exact: 136 / 141
  f1: 0.9692671394799054

在越南XQuAD上评估： xquad.vi.json

  exact: 604 / 1190
  f1: 0.7224454217571596

作者

An Pham（ancs21.ps [at] gmail.com）

许可证

MIT