您尚未登录账户
您的企业账号申请正在审核中
腾讯推出AI生成内容检测工具，应对AI信任危机
随着人工智能技术在文生文、文生图、文生视频等领域的广泛应用，其生成的内容日益逼真，但随之而来的信任问题也日益凸显。为了应对这一挑战，腾讯今日正式宣布推出AI生成文本检测与AI生成图像检测工具，旨在为用户提供一种有效的手段来鉴别AI生成的内容。
据腾讯官方介绍，尽管AI生成的图像在细节和纹理上已经达到了相当高的逼真度，但仍存在一些可以被捕捉到的特征。为此，腾讯朱雀实验室研发了一款AI生成图片检测系统。用户只需将图片上传至系统，等待几秒钟的验证时间，系统即可判断该图片是否为AI生成。这一过程被形象地比喻为“用魔法打败魔法”，即利用AI技术来检测AI生成的内容。
AI生成图片检测系统的核心在于捕捉真实图片与AI生成图片之间的差异。这些差异可能包括AI生成图片有时不符合常识逻辑、需要添加特定水印或包含隐层特征等。为了提升系统的检测效果，腾讯使用了高达140万份的正负样本进行模型训练，并考虑了多种生成内容场景，如人体、人像、风景、地标、植物、电影、游戏和新闻等。经过训练，系统的测试检出率已达到95%以上，并且仍在持续优化中。
除了图片检测系统外，腾讯朱雀实验室还同步开发了AI生成文本检测系统。该系统通过对AI生成文本和人类写作内容的海量数据进行学习，实现了对文本的精准检测。为了提升检测效果，系统同样搜集了大量正负样本进行训练，并涵盖了不同领域和不同大语言模型的生成文本。此外，系统还采用了对比方式，将检测文本与大模型预测内容进行重叠度对比，以推断文章的AI生成概率。
目前，AI生成文本检测系统已经涵盖了新闻通讯、公文、小说、散文等多样化文体。腾讯表示，接下来还将对诗歌等体裁进行补强，以提高文本识别的准确率。这两款检测工具的推出，不仅有助于解决AI生成内容带来的信任问题，也为用户提供了一种有效的鉴别手段。
