IndoBERT-Lite基于Translated SQuAD v2进行细调

由 Indo Benchmark 进行训练，并在 Translated SQuAD 2.0 上进行了Q&A下游任务的细调。

模型实际运行情况

使用pipelines快速使用：

from transformers import BertTokenizerFast, pipeline

tokenizer = BertTokenizerFast.from_pretrained(
    'Wikidepia/indobert-lite-squad'
)
qa_pipeline = pipeline(
    "question-answering",
    model="Wikidepia/indobert-lite-squad",
    tokenizer=tokenizer
)

qa_pipeline({
    'context': "Setelah menghabiskan waktu satu tahun di Praha, Einstein tinggal di Swiss antara tahun 1895 dan 1914, melepas kewarganegaraan Jermannya pada tahun 1896, dan lulus sarjana dari sekolah politeknik federal Swiss (kelak Eidgenössische Technische Hochschule, ETH) di Zürich pada tahun 1900.",
    'question': "Kapan Einstein melepas kewarganegaraan Jerman?"
})

输出：

{
   "score":0.9799205660820007,
   "start":147,
   "end":151,
   "answer":"1896"
}

从 mrm8488's repository 复制的README