为什么数据污染对LLM来说是一个大问题
康奈尔大学推出新的社交机器人,更柔软,更人性化
所以,能动手就别吵吵了
字节跳动旗下团队推出的免费AI英语写作助手
StabilityAI推出的文本到图像生成AI
GitHub AI编程工具
Adobe最新推出的AI图片生成工具
AI艺术和创意辅助平台
数据集:
acul3/KoPI-NLLB
KopI(印度尼西亚语全国语料库)-NLLB,是从NLLB数据集中提取出的印度尼西亚家庭语言(亚齐语、巴厘语、班贾尔语、印尼语、爪哇语、美南语、巽他语) ,总计 allenai/nllb
每种语言集还使用了一些去重技术进行过滤,例如精确哈希(md5)去重技术和最小哈希LSH相似文本
待细节公布
作者:
数据集大小:
8.89 GB