模型:
ckiplab/albert-base-chinese
这个项目提供了传统中文转换模型(包括ALBERT,BERT,GPT2)和NLP工具(包括分词,词性标注,命名实体识别)。
這個專案提供了繁體中文的转换模型(包含ALBERT、BERT、GPT2)及自然语言处理工具(包含断词、词性标注、实体辨识)。
请使用BertTokenizerFast作为令牌化器,而不是AutoTokenizer。
請使用BertTokenizerFast而非AutoTokenizer。
from transformers import ( BertTokenizerFast, AutoModel, ) tokenizer = BertTokenizerFast.from_pretrained('bert-base-chinese') model = AutoModel.from_pretrained('ckiplab/albert-base-chinese')
有关完整使用方法及其他信息,请参见 https://github.com/ckiplab/ckip-transformers 。
有关完整使用方法及其他信息,请参见 https://github.com/ckiplab/ckip-transformers 。