CKIP GPT2基礎中文

本項目提供繁體中文的transformers模型（包括ALBERT，BERT，GPT2）和NLP工具（包括詞分割，詞性標記，命名實體識別）。

這個專案提供了繁體中文的transformers模型（包括ALBERT、BERT、GPT2）及自然語言處理工具（包括斷詞、詞性標記、實體辨識）。

主頁

• https://github.com/ckiplab/ckip-transformers

貢獻者

• Mu Yang 在 CKIP （作者和維護者）

用法

請使用BertTokenizerFast作為分詞器，而不是AutoTokenizer。

請使用BertTokenizerFast而非AutoTokenizer。

from transformers import (
  BertTokenizerFast,
  AutoModel,
)

tokenizer = BertTokenizerFast.from_pretrained('bert-base-chinese')
model = AutoModel.from_pretrained('ckiplab/gpt2-base-chinese')

有關完整使用方法和更多資訊，請參考 https://github.com/ckiplab/ckip-transformers 。

有關完整使用方法及其他資訊，請參見 https://github.com/ckiplab/ckip-transformers 。