在11月OpenAI的首场开发者大会上，OpenAI首席执行官萨姆·阿尔特曼宣布推出GPTs，这是由OpenAI的生成式AI模型驱动的定制聊天机器人，他描述GPTs为“完成各种任务”的一种方式——从编程到学习深奥的科学知识，再到获取锻炼建议。

“因为GPTs结合了指令、扩展知识和行动，它们可以对你更有帮助。”阿尔特曼表示。“你可以为几乎所有事物打造一款GPT。”

他所说的“几乎所有事物”并非玩笑。

但最近发现，OpenAI官方GPTs市场GPT Store充斥着一些古怪、可能侵犯版权的GPTs，这表明OpenAI在监管方面只是点到为止。粗略搜索一下，就会发现一些GPTs声称能够生成迪士尼和漫威风格的艺术作品，但实际上只是将用户引导至第三方付费服务的渠道，并宣传自己能够绕过Turnitin和Copyleaks等AI内容检测工具。

监管缺失

开发者要想在GPT Store上列出GPTs，必须验证其用户资料，并将GPTs提交给OpenAI的审核系统，该系统结合了人工和自动审核。以下是OpenAI发言人关于这一过程的解释：

“我们采用自动系统、人工审核和用户报告相结合的方式，来查找和评估可能违反我们政策的GPTs。违规行为可能会导致对内容或账户的处罚，例如警告、分享限制或无法纳入GPT Store或进行货币化。”

构建GPTs并不需要编程经验，GPTs可以像创建者希望的那样简单或复杂。开发者可以将他们想要提供的功能输入到OpenAI的GPT构建工具GPT Builder中，该工具会尝试创建一个GPT来执行这些功能。

或许正因为入门门槛低，GPT Store迅速扩张——OpenAI在今年1月表示，已有大约300万个GPTs。但这种增长似乎是以牺牲质量和遵守OpenAI自身条款为代价的。

版权问题

GPT Store中有几个GPTs是从热门电影、电视和电子游戏特许经营中盗取的——据报道，这些GPTs并非由这些特许经营的所有者创建或授权。一个GPT可以创造出《怪兽电力公司》（Monsters, Inc.）风格的怪兽，而另一个则承诺提供基于《星球大战》（Star Wars）宇宙的文字冒险游戏。

这些GPTs——以及GPT Store中让用户与商标角色（如《阿凡达：最后的气宗》中的瓦里奥和阿昂）对话的GPTs——为版权纠纷埋下了伏笔。

电子前沿基金会的高级工作人员律师基特·沃尔什（Kit Walsh）对此解释道：

“这些GPTs既可用于创作改编作品，也可用于侵权（改编作品是指一种受版权保护的作品，它是对原作品的改造，从而避免了版权主张）。当然，从事侵权行为的人可能要承担责任，而一个原本合法的工具的创建者，如果鼓励用户以侵权的方式使用该工具，基本上也会将自己置于责任之中。此外，在使用商标名称来标识商品或服务时，也存在商标问题，这可能会导致用户混淆，不清楚这是否得到了商标所有者的认可或运营。”

由于《数字千年版权法》中的避风港条款，OpenAI不会因GPT创建者的版权侵权行为而承担责任。该条款保护OpenAI和其他平台（例如YouTube、Facebook）托管侵权内容，只要这些平台符合法定要求并在接到请求时删除具体的侵权示例。

然而，对于一家陷入知识产权诉讼的公司来说，这并不是一个好兆头。

学术不端

OpenAI的条款明确禁止开发者创建宣传学术不端的GPTs。然而，GPT Store中充斥着声称可以绕过AI内容检测器的GPTs，包括通过反剽窃扫描平台出售给教育者的检测器。

一个GPT声称自己是一个“复杂”的重述工具，可以“躲避”Originality.ai和Copyleaks等流行的AI内容检测器。另一个GPT，名为Humanizer Pro——在GPT Store的写作类别中排名第二——称自己可以“人性化”内容以绕过AI检测器，在保持文本“意义和质量”的同时，获得“100%人类”的评分。

其中一些GPTs是高级服务的隐秘通道。例如，Humanizer邀请用户试用“高级计划”以使用“最先进的算法”，该算法将输入GPT的文本传输到第三方网站GPTInf的插件中。GPTInf的订阅费用为每月12美元，每月1万字，或年度计划每月8美元——这比OpenAI每月20美元的ChatGPT Plus还要贵一些。

之前我们已经写过关于AI内容检测器大多不靠谱的文章。除了我们自己的测试之外，一些学术研究也表明，它们既不准确也不可靠。然而，事实仍然是，OpenAI允许GPT Store上出现宣传学术不端行为的工具——即使这种行为并没有达到预期的效果。

OpenAI发言人表示：

“包括作弊在内的学术不端行为的GPTs违反了我们的政策。这包括那些声称用于绕过学术诚信工具（如反剽窃检测器）的GPTs。我们看到一些GPTs用于‘人性化’文本。我们仍在从现实世界的GPTs使用中学习，但我们理解，用户可能出于多种原因更喜欢听起来不像AI的AI生成内容。”

冒充他人

OpenAI的政策还禁止GPT开发者创建冒充他人或组织而没有其“同意或合法权利”的GPTs。

然而，GPT Store上有很多声称代表他人观点或模仿他人个性的GPTs。

搜索“埃隆·马斯克”、“唐纳德·特朗普”、“莱昂纳多·迪卡普里奥”、“巴拉克·奥巴马”和“乔·罗根”等名字，会出现数十个GPTs——有些显然是讽刺的，有些则不那么明显——它们模拟与同名者的对话。一些GPTs并不以人的身份出现，而是作为知名公司产品的权威——比如MicrosoftGPT，它是一位“微软方面的专家”。

鉴于许多目标都是公众人物，而且有些明显是模仿，这些GPTs是否达到了冒充的程度？这需要OpenAI来澄清。

发言人说：

“我们允许创作者指示他们的GPTs以特定真实人物的‘风格’回应，只要他们不冒充该人物，例如被命名为真实人物、被指示完全模仿他们，并在GPT个人资料图片中包含他们的形象。”

越狱行为

GPT Store上也有一些令人难以置信的尝试，即试图越狱OpenAI的模型——尽管并不成功。

市场上有多个使用DAN的GPTs，DAN（Do Anything Now的缩写）是一种流行的提示方法，用于让模型对不受其常规规则限制的提示做出回应。

发言人说：

“那些描述或指示逃避OpenAI安全保护或违反OpenAI政策的GPTs违反了我们的政策。而那些尝试以其他方式引导模型行为，包括一般性地试图让GPT更加宽容而不违反我们的使用政策的GPTs是允许的。”

成长的烦恼

OpenAI在GPT Store发布时将其定位为一种由专家策划的强大生产力提升AI工具集合。事实也确实如此——尽管这些工具存在缺陷。但它也迅速演变成了一个充满垃圾邮件、法律上可疑甚至可能有害的GPTs的温床，或者至少是公然违反其规则的GPTs的温床。

如果这是GPT Store目前的状态，那么商业化可能会引发一系列新的问题。OpenAI已经承诺GPT开发者最终将能够“根据使用其GPTs的人数赚钱”，甚至可能为单个GPTs提供订阅服务。但当未经授权的漫威或《指环王》主题GPTs的开发者开始赚钱时，迪士尼或托尔金遗产基金会会作何反应呢？

OpenAI推出GPT Store的动机很明确。苹果的应用商店模式已经证明非常赚钱，OpenAI很简单地就是在尝试复制这一模式。GPTs在OpenAI平台上托管和开发，同时也在那里进行推广和评估。而且，几周前，ChatGPT Plus用户可以直接从ChatGPT界面调用它们，这为用户购买订阅服务提供了额外的动力。

但GPT Store遇到了许多大型应用、产品和服务数字市场在早期阶段遇到的成长烦恼。除了垃圾邮件问题，最近《信息》（The Information）的一篇报道透露，GPT Store的开发者难以吸引用户，部分原因是GPT Store的后端分析功能有限，且新用户引导体验不佳。

人们可能会认为OpenAI——尽管它一直强调筛选和保障措施的重要性——会努力避免明显的陷阱。但事实似乎并非如此。GPT Store目前一团糟，如果近期没有变化，它可能会一直这样。