CKIP ALBERT 小型中文

该项目提供了繁体中文的transformers模型（包括ALBERT、BERT、GPT2）和自然语言处理工具（包括分词、词性标注、命名实体识别）。

这个项目提供了繁体中文的transformers模型（包括ALBERT、BERT、GPT2）和自然语言处理工具（包括分词、词性标注、命名实体识别）。

主页

• https://github.com/ckiplab/ckip-transformers

贡献者

• Mu Yang at CKIP (作者&维护者)

使用方法

请使用BertTokenizerFast作为分词器，而不是AutoTokenizer。

请使用BertTokenizerFast而非AutoTokenizer。

from transformers import (
  BertTokenizerFast,
  AutoModel,
)

tokenizer = BertTokenizerFast.from_pretrained('bert-base-chinese')
model = AutoModel.from_pretrained('ckiplab/albert-tiny-chinese-ws')

关于完整使用方法和更多信息，请参考 https://github.com/ckiplab/ckip-transformers 。

关于完整使用方法和更多信息，请参考 https://github.com/ckiplab/ckip-transformers 。