数据集:

acul3/KoPI-NLLB

英文

KopI(印度尼西亚语全国语料库)-NLLB,是从NLLB数据集中提取出的印度尼西亚家庭语言(亚齐语、巴厘语、班贾尔语、印尼语、爪哇语、美南语、巽他语) ,总计 allenai/nllb

每种语言集还使用了一些去重技术进行过滤,例如精确哈希(md5)去重技术和最小哈希LSH相似文本

待细节公布