OpenAI暂停字节跳动账户,爆出其违规使用OpenAI技术

2023年12月18日 由 neo 发表 258 0

QQ截图20231218101034

据外媒披露,字节跳动为了在生成式AI领域占优势,一直暗中利用OpenAI的技术打造自己的大语言模型,这违背了OpenAI的服务条款。目前,字节跳动的账户已被OpenAI暂停。

外媒指出,这种做法是AI界的一种“不礼貌”行为,也触犯了OpenAI的服务条款,它明令禁止使用其模型“开发与我们的产品和服务竞争的AI模型”。字节跳动是通过微软购买了OpenAI的访问权限,但微软也有相同的规定。

外媒获得的字节跳动内部文件透露,字节跳动在开发代号为“种子计划”的基础大语言模型的过程中,每个环节都依赖OpenAI的应用程序接口(API),包括训练和评估模型。参与“种子计划”的员工都清楚这一行为的风险。从他们在内部通讯平台飞书海外版Lark的聊天记录中可以看出,他们讨论了如何通过“数据脱敏”来隐藏证据。外媒称,字节跳动员工使用OpenAI的技术过度,以至于“种子计划”的员工经常达到OpenAI API的访问上限。

内部文件还显示,字节跳动主要是在“种子计划”的初期阶段使用OpenAI的技术。几个月前,该公司命令该团队在“模型开发的任何阶段”停止使用GPT生成的文本。大约在这个时候,该公司推出了自家AI大模型“豆包”,让“种子计划”上线。但是,字节跳动仍然以违反OpenAI 和微软服务条款的方式使用API,包括评估豆包模型的性能。一位熟悉字节跳动内部情况的人说,“他们说他们想确保合法,但他们实际上只是不想被抓住”。

字节跳动发言人约迪·赛斯回应说,GPT生成的数据在“种子计划”的初期开发中用于标注模型,并且在今年年中左右已从字节跳动的训练数据中移除。“字节跳动获得了微软的许可能够使用GPT API。我们使用GPT驱动非中国市场的产品和功能,但使用我们自主开发的模型驱动豆包。豆包只在中国提供。”赛斯说。

OpenAI发言人尼克·菲利克斯声明说,确认字节跳动的账户已被暂停。“所有API客户必须遵守我们的使用政策,以确保我们的技术被用于好的一面。虽然字节跳动很少使用我们的API,但我们在进一步调查期间已暂停了他们的帐户。如果我们发现他们的使用不符合公司政策,我们将要求他们做出必要的改变或终止他们的账户。”菲利克斯说。

微软发言人弗兰克·肖声明说:“Azure OpenAI服务等微软AI解决方案属于我们有限访问框架的一部分,这意味着所有客户都必须申请并获得微软的批准才能访问。我们还制定了标准并提供资源,帮助我们的客户负责任地使用这些技术,并遵守我们的服务条款。我们还制定了发现滥用行为的流程,并在企业违反我们的行为准则时停止他们的访问。”

文章来源:https://tech.ifeng.com/c/8VYb6Ii1S2q
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
写评论取消
回复取消