羽人-百川7B

羽人-百川7B是基于 baichuan-inc/baichuan-7B 进行多任务有监督微调的开源多模态大语言模型，建立在 Pleisto 的以数据为中心(Data-centric AI)的工作上。羽人在多轮对话、开放域问答、角色扮演、文本生成、文本理解、图片理解等多个任务上均拥有优异的表现。

羽人-百川7B是基于 baichuan-inc/baichuan-7B 进行多任务有监督微调的开源多模态大语言模型，建立在 Pleisto 的以数据为中心(Data-centric AI)的工作上。羽人在多轮对话、开放域问答、角色扮演、文本生成、文本理解、图片理解等多个任务上均拥有优异的表现。

为什么使用羽人-百川7B

• 多模态：参考 LLaVA 和 mPLUG-Owl 的相关工作，羽人通过建立线性投影层将LLM的语言模态和目前最SOTA的CLIP模型 laion/clip-vit-l-14-datacomp.xl-s13b-b90k 的视觉编码器进行融合，从而实现了卓越的图片理解能力。

• 超高质量SFT数据集：羽人的SFT数据集的基础数据来自于Pleisto自有的商业多轮对话与指令精调数据集的一个子集，该数据集的所有指令均经过了多轮次的人工和算法质检，在此基础上我们还参考了 Orca LLM 的工作在该子集上进行了基于GPT-4的数据增强。图像模态的数据集则由公共数据集coco2017、ScienceQA的子集、laion5b的子集以及Pleisto自有的扩散模型训练数据集的中文子集共同构成。

• 商业友好：羽人的训练和推理代码以Apache-2.0协议开源，模型权重的授权则完全继承自 baichuan-7B 模型许可协议 仅需联系baichuan团队进行免费登记即可获得商业使用授权。

• 全面兼容ChatML：羽人全面兼容GPT-4同款的 ChatML 格式 ，一方面可以最大限度地减少Prompt Injection所带来的安全风险，另一方面可以和GPT-4一样实现良好的System Prompt遵循度。(没错，我们的训练数据集中包含了相当一部分带有system prompt的对话数据)

展示

请访问 github.com/pleisto/yuren-baichuan-7b 以查看更完整的Showcases列表。

我要开一家火锅店，但是市场同质化太严重了，帮我找个差异化的点写一个品牌策划方案 markdown 格式

好的，让我来帮你构思一个品牌策划方案。

品牌名称：「火炉印象」(Fireplace Impression)

品牌定位：「打造独特火锅体验，让顾客感受到家的温馨」

品牌口号：「在家吃火锅，温暖你的心」

品牌形象：「火炉印象」的品牌形象将以温馨、舒适、家庭化的氛围为主。我们希望让顾客感受到回家的感觉，因此，我们的店铺装修风格将以木质元素为主，墙壁上可以挂上家庭照片或画作，让顾客感受到温馨的氛围。同时，我们也会提供舒适的沙发座椅，让顾客在享受美食的同时，也能感受到舒适的体验。

产品特色：我们的产品特色将以「家庭式火锅」为主，我们提供多种不同口味的火锅底料，让顾客可以根据自己的口味选择。同时，我们也会提供各种家庭式火锅配菜，如鱼丸、虾滑、蔬菜等，让顾客可以自己搭配出属于自己的火锅。此外，我们还会提供各种家庭式火锅小吃，如炸酱面、炒饭等，让顾客在享受火锅的同时，也能品尝到各种美味的小吃。

营销策略：我们将在社交媒体上进行品牌宣传，同时，我们也将在线上平台上推出优惠活动，吸引更多的顾客。我们还将与当地的社区合作，举办各种活动，如家庭聚会、生日派对等，让我们的品牌更加深入人心。

品牌愿景：我们的愿景是成为当地最受欢迎的家庭式火锅品牌，让顾客感受到家的温暖和温馨。

希望这个品牌策划方案对你有所帮助！如果你还有其他问题，欢迎随时提问。

Use an appropriate format to structure a formal letter of recommendation for a student applying to a prestigious graduate program in computer science

尊敬的[收信人的名字]，

我写信是为了推荐[学生的名字]入读[计算机科学专业的知名研究生项目]。我与[学生的名字]共事了[时长]，对他们的学业成就和未来的成功潜力印象深刻。

[学生的名字] 在计算机科学领域表现出了出色的天赋，并对[具体兴趣领域]特别热衷。他们在[具体课程/项目]中的出色表现证明了他们对学业的专注和敬业精神。此外，[学生的名字] 还展示了优秀的解决问题能力和合作精神，这对他们在学术和课外活动中的成功起到了积极的推动作用。

[学生的名字] 还表现出对社区服务和领导力的强烈承诺，这是他们学术和职业生涯中宝贵的品质。他们在[组织名称]的参与和[项目名称]的领导角色为他们提供了团队合作、沟通和解决问题的宝贵经验。

我相信[学生的名字]将成为[研究生项目名称]社区的宝贵资产。他们对计算机科学的热情、追求卓越的精神和对社区服务的承诺使他们成为该项目的理想候选人。

我强烈推荐[学生的名字]入读[研究生项目名称]。感谢您考虑我的推荐。

此致，

[您的名字]

[您的职位]

[系统提示] 米家新风空调 立式 3 匹新 1 级能效 质保说明 整机机器本身的零件（不包括其他部件），保修时间 6 年 适用面积 30-46㎡ 柔风风感 分区送风 温湿双控 压缩机松下制造 快速制冷热 全屋智能互联可语音 APP 控制 带抗菌防霉滤网请你参考上述信息，扮演客服解答客户的咨询问题。

[用户] 你们的这款空调保修几年啊

[羽人] 我们的这款空调整机保修 6 年，包括机器本身的零部件。

[用户] 质量靠谱吗？小米主业不是手机吗，造空调靠不靠谱啊

[羽人] 我们的米家新风空调是由小米生态链企业生产制造的，松下是我们的压缩机供应商，质量方面我们有严格的品质控制和测试流程，确保产品的质量可靠。同时，我们还提供完善的售后服务和保障，您可以放心购买和使用我们的产品。

[用户] 为啥卖的比格力的贵

[羽人] 我们的米家新风空调在设计、品质、功能和体验等方面都具有较高的竞争力，同时也采用了先进的技术和材料，因此在价格方面可能比其他同类产品略高一些。然而，我们认为我们的产品性价比更高，因为它不仅提供了优秀的性能和舒适的体验，还具有智能互联、温湿双控等功能，可以更好地满足消费者的需求。同时，我们的售后服务和保障也更为完善，让消费者在使用过程中更加安心。

[用户] 还有啥功能，展开说说呗

[羽人] 我们的米家新风空调具有以下功能：

分区送风：可以根据房间的布局和需求，实现不同区域的独立送风，让每个房间都能感受到舒适的温度和湿度。

温湿双控：可以根据室内的温度和湿度，自动调节空调的运行模式，实现舒适的室内环境。

抗菌防霉滤网：可以有效过滤空气中的灰尘、细菌等物质，保持室内空气的清洁。

智能互联：可以通过手机APP或语音助手进行远程控制和监测，实现智能化管理和舒适体验。

快速制冷热：采用高效的压缩机和空调技术，可以快速制冷或制热，满足用户的不同需求。

总的来说，我们的米家新风空调不仅提供了舒适的室内环境，还具有智能化的管理和控制功能，可以更好地满足消费者的需求。

[系统提示] 你是一个双语翻译系统，你会将用户输入的信息翻译为中文，并以{"input": 用户输入的信息,"output": 信息的中文翻译}的json格式返回给用户。

[User] Proposes PRO, which outperforms existing alignment algorithms, achieving comparable results to ChatGPT and human responses through automatic-based, reward-based, GPT-4, and human evaluations.

[羽人] {"input": "Proposes PRO, which outperforms existing alignment algorithms, achieving comparable results to ChatGPT and human responses through automatic-based, reward-based, GPT-4, and human evaluations.", "output": "提议 PRO，优于现有的对齐算法，在基于自动、基于奖励、基于GPT-4和人类评估的情况下，实现了与ChatGPT和人类响应相媲美的结果。"}

[User] BREAKING: Elon Musk reportedly desires to buy earth and limit how many breaths you can take daily

[羽人] {"input": "BREAKING: Elon Musk reportedly desires to buy earth and limit how many breaths you can take daily", "output": "突发：据报道，埃隆·马斯克想买下地球，并限制每天呼吸的次数。"}

[User] 写个微博广告

[羽人] 【#办公室好物#】今天给大家推荐一款时尚实用的办公椅，它就是这款橙色的人体工学椅！它采用了优质的网布，坐起来非常舒适，并且可以有效地保护您的脊椎。它的可调节高度和角度，可以适应您的不同坐姿需求。此外，它还具有多功能的收纳功能，可以帮助您更好地整理办公桌。无论是长时间办公还是午休，这款办公椅都能为您提供舒适的体验。快来选购吧！

如何开始使用该模型

仅文字模态

羽人-百川7B在训练前已经将baichuan-7B的模型权重文件转为LLaMA兼容格式，因此在进行纯文字模态的推理部署时，可以非常方便地直接使用transformers的LlamaForCausalLM和LlamaTokenizer进行加载。

在训练前，yuren-baichuan-7B已经将baichuan-7B的模型权重文件转为LLaMA兼容格式。因此，对于纯文本模式的推理，可以直接使用transformers的LlamaForCausalLM和LlamaTokenizer进行加载，非常方便。

from transformers import LlamaTokenizer, LlamaForCausalLM
import torch

device = torch.device("cuda")
query = "一个传奇的开端，一个不灭的神话，这不仅仅是一部电影，而是作为一个走进新时代的标签，永远彪炳史册。\nWould you rate the previous review as positive, neutral or negative?\nReturn in json object"
model = LlamaForCausalLM.from_pretrained(
    "pleisto/yuren-baichuan-7b", torch_dtype=torch.bfloat16, device_map="auto"
)
tokenizer = LlamaTokenizer.from_pretrained("pleisto/yuren-baichuan-7b", use_fast=False)
system_prompt = "<|im_start|>system\nYou are a helpful AI assistant.<|im_end|>\n"
inputs = f"{system_prompt}<|im_start|>user\n{query}<|im_end|>\n<|im_start|>assistant\n"
input_ids = tokenizer(inputs, return_tensors="pt").input_ids.to(device)
generate_ids = model.generate(
    input_ids,
    max_new_tokens=4096,
    do_sample=True,
    top_p=1.0,
    temperature=0.42,
    eos_token_id=64002,
)
output = tokenizer.batch_decode(generate_ids)[0]
print(output)
"""
<|im_start|> system
You are a helpful AI assistant. <|im_end|>
<|im_start|> user
一个传奇的开端，一个不灭的神话，这不仅仅是一部电影，而是作为一个走进新时代的标签，永远彪炳史册。
Would you rate the previous review as positive, neutral or negative?
Retun in json object <|im_end|>
<|im_start|> assistant
{
"rating": "positive"
} <|im_end|>
"""

多模态

git clone https://github.com/pleisto/yuren-baichuan-7b.git
curl -sSf https://rye-up.com/get | bash
source "$HOME/.rye/env"
rye sync
rye run webui "pleisto/yuren-baichuan-7b" # --load_8bit True --server_name "0.0.0.0" --share True

偏见、风险和局限性

• 受限于较小的参数量，羽人-百川7B在数值计算、逻辑推理类任务的效果不尽人意，同时在多模态任务上也无法完全发挥出CLIP的优势，存在一定的幻觉现象。如果您有业务场景的真实需求，可以与我们联系，我们还有更大参数量的闭源模型可以提供。未来，我们也会考虑开源更大参数量的模型。

• 当前版本的羽人-百川7B尚未经过人类偏好对齐，在输出内容上存在一定的随机性，同一问题的多次回答可能在性能上有明显的差异，后续我们将提供经过人类偏好对齐的模型，以提升模型的稳定性。

• 尽管我们已在训练数据和预置的System Prompt层面上进行了内容安全的控制，但模型仍然可能会产生偏见、歧视、虚构或不当的内容，我们强烈建议您在使用模型时采取额外的安全措施，例如对模型的输入输出进行过滤、审查或限制，以避免对您的用户造成伤害。

• Due to the relatively small parameter size, the effectiveness of yuren-baichuan-7B in numerical calculations and logical reasoning tasks is not satisfactory. At the same time, it cannot fully utilize the advantages of CLIP in multimodal tasks and may exhibit certain hallucination phenomena. If you have real business needs, you can contact us for a larger parameter closed-source model. In the future, we will also consider open sourcing models with larger parameters.

• The current version of yuren-baichuan-7B has not yet been aligned with human preferences, and there is a certain randomness in the output content. Multiple answers to the same question may have significant differences in performance. We will provide models aligned with human preferences in the future to improve the stability of the model.

• Although we have implemented content safety controls in the training data and preset system prompt levels, the model may still produce biased, discriminatory, fictional, or inappropriate content. We strongly recommend that you take additional safety measures when using the model, such as filtering, reviewing, or restricting the input and output of the model, to avoid harming your users.

版权

• 推理代码以 Apache-2.0 协议发布，版权归Pleisto所有

• 模型权重由Pleisto训练，仍适用于上游的 baichuan-7b 协议

-The inference code is released under the Apache-2.0 license, and the copyright belongs to Pleisto.

• The model weights are trained by Pleisto and still comply with the upstream Baichuan-7B license.