模型:
pszemraj/bart-large-mnli-dolly_hhrlhf-v1
这个模型是在 pszemraj/dolly_hhrlhf-text2text 数据集上进行微调的 facebook/bart-large-mnli 的版本。
在一个相对自由的 mosaicml/dolly_hhrlhf 数据集上,对 text2text 模型进行了微调。
在 Python 中的基本用法:
# pip install -q transformers accelerate import torch from transformers import pipeline, GenerationConfig model_name = "pszemraj/bart-large-mnli-instruct-dolly_hhrlhf-v1" assistant = pipeline( "text2text-generation", model_name, device_map="auto", ) cfg = GenerationConfig.from_pretrained(model_name) # pass an 'instruction' as the prompt to the pipeline prompt = "Write a guide on how to become a ninja while working a 9-5 job." result = assistant(prompt, generation_config=cfg)[0]["generated_text"] print(result)
生成配置的使用是可选的,可以用其他生成参数来替代。
在训练过程中使用了以下超参数: