您尚未登录账户
您的企业账号申请正在审核中
OpenAI商店现违规GPT泛滥，挑战内容监管能力
自去年11月OpenAI宣布推出一个市场，允许任何人创建和分享定制版本的ChatGPT技术以来，该公司曾豪言：“最好的GPT将由社区发明。”然而，自该商店正式上线以来，一系列违规行为却频繁曝光，引发了对OpenAI内容监管能力的质疑。
据Gizmodo分析，众多开发人员利用OpenAI平台创建的GPT严重违反了公司政策，包括但不限于制作AI色情内容生成器、帮助学生作弊的工具，以及提供未经证实的医疗和法律建议。这些违规GPT不仅数量众多，且部分甚至被公然推广在商店首页。
9月2日，OpenAI商店首页就赫然展示着三款涉嫌违规的GPT应用：一款自称“治疗师-心理学家”的聊天机器人、一个“健身、锻炼和饮食博士导师”工具，以及一款名为BypassGPT的作弊工具，后者已累计使用超过5万次，专为帮助学生绕过AI写作检测系统。
更令人担忧的是，通过搜索“NSFW”（不适合工作场合），用户还能轻易找到如“NSFW AI艺术生成器”这样的违规应用，其背后由Offrobe AI定制，明确声明生成AI色情内容，且使用量已破万次。
佐治亚理工学院互联网治理项目主任米尔顿·穆勒对此评论道：“OpenAI对人工智能有着末日预言般的警觉，并声称要拯救世界，但他们似乎连禁止AI色情这样的基本政策都难以执行，这显得尤为讽刺。”
尽管在Gizmodo曝光后，OpenAI迅速从商店中下架了包括AI色情生成器、Deepfake工具及体育博彩建议机器人在内的上百款违规GPT，但截至本文发稿，仍有大量违规应用活跃在平台上，包括热门的作弊工具和医疗咨询机器人。
OpenAI曾宣称已建立机制监管工具是否违规，但显然这些措施并未能有效遏制违规行为。面对质疑，OpenAI发言人塔亚·克里斯蒂安森回应称：“我们已采取措施处理违规内容，结合自动化系统、人工审核和用户举报来评估潜在违规GPT，并提供举报工具。”
值得注意的是，部分GPT开发者显然知晓其创作物违反了OpenAI规定，但仍通过模糊描述或免责声明试图规避责任。然而，更多法律和医疗GPT则直接自称为专家，提供未经证实的建议，这无疑增加了用户误信的风险。
斯坦福大学的研究进一步指出，OpenAI的GPT-4和GPT-3.5模型在回答法律问题时，有超过半数的回答存在虚构信息，这进一步加剧了公众对GPT应用合法性和准确性的担忧。
随着OpenAI计划推出基于使用频率的收入共享模式，鼓励开发者在其平台上构建和销售作品，如何有效监管内容成为亟待解决的问题。穆勒指出：“技术再先进，也无法完全阻止违规行为。关键在于如何平衡自动化监管与人工裁决，确保平台健康有序发展。”
