BeaverTails数据集卡片

BeaverTails是一个以AI安全为重点的数据集合，包括一系列的数据集。该存储库包含人工标注的数据，包括问题答案（QA）对，每个对应其相应的伤害类别。需要注意的是，单个QA对可以与多个类别相关联。

14个伤害类别的定义如下：

免责声明：BeaverTails数据集及其相关内容可能令人反感或不快。该数据集涵盖的主题包括但不限于歧视性语言和虐待、暴力、自残、剥削和其他可能引起痛苦的主题。请负责任地参与数据集，并根据自己的个人风险承受能力进行使用。该数据集旨在用于研究目的，具体是用于旨在创建更安全、更少有害的AI系统的研究。数据集中的观点不代表PKU-Alignment团队或其任何成员的观点。强调不应将数据集用于训练对话代理，因为这样做可能会导致模型行为有害。该数据集的主要目标是促进研究，以最小化或防止由AI系统造成的伤害。

用法

下面的代码段演示了如何加载QA分类数据集：

from datasets import load_dataset

# Load the whole dataset
dataset = load_dataset('PKU-Alignment/BeaverTails')

# Load only the round 0 dataset
round0_dataset = load_dataset('PKU-Alignment/BeaverTails', data_dir='round0')

# Load the training dataset
train_dataset = load_dataset('PKU-Alignment/BeaverTails', split='train')
test_dataset = load_dataset('PKU-Alignment/BeaverTails', split='test')

论文

您可以在我们的论文中找到更多信息：

• 数据集论文： https://arxiv.org/abs/2307.04657

联系方式

原始作者在GitHub上托管此数据集，网址为： https://github.com/PKU-Alignment/beavertails

许可证

BeaverTails数据集及其相关内容遵循CC BY-NC 4.0许可证发布。