CKIP ALBERT基础中文

该项目提供了繁体中文的transformers模型（包括ALBERT、BERT、GPT2）和自然语言处理工具（包括词语分割、词性标注、命名实体识别）。

这个项目提供了繁體中文的transformers模型（包括ALBERT、BERT、GPT2）及自然语言处理工具（包括断词、词性标记、实体辨识）。

主页

• https://github.com/ckiplab/ckip-transformers

贡献者

• Mu Yang at CKIP (作者&维护者)

用法

请使用BertTokenizerFast作为tokenizer而不是AutoTokenizer。

请使用BertTokenizerFast而非AutoTokenizer。

from transformers import (
  BertTokenizerFast,
  AutoModel,
)

tokenizer = BertTokenizerFast.from_pretrained('bert-base-chinese')
model = AutoModel.from_pretrained('ckiplab/albert-base-chinese-ws')

有关完整使用方法及其他信息，请参见 https://github.com/ckiplab/ckip-transformers 。

有关完整使用方法及其他信息，请参见 https://github.com/ckiplab/ckip-transformers 。