Tencent Launches AI-generated Content Detection Tool to Address AI Trust Crisis

2025-01-17

随着人工智能技术在文本生成、图像生成和视频生成等领域的广泛应用，其创作的内容越来越逼真。然而，随之而来的信任问题也日益突出。为此，腾讯今日正式推出了AI生成内容检测工具，包括文本和图像检测系统，以帮助用户有效识别AI生成的内容。

据腾讯官方介绍，尽管AI生成的图像在细节和纹理方面已经非常逼真，但依然存在一些可识别的独特特征。腾讯朱雀实验室开发了一款AI生成图像检测系统，用户只需上传图片，经过几秒钟的验证时间，系统就能判断该图片是否由AI生成。这个过程被形象地描述为“以魔制魔”，即利用AI技术来识别AI生成的内容。

AI生成图像检测系统的核心在于识别真实图片与AI生成图片之间的差异。这些差异可能包括不符合常识逻辑的元素、特定水印或隐层特征等。为了提升系统的准确性，腾讯使用了140万份正负样本进行模型训练，并考虑了多种生成内容场景，如人体、肖像、风景、地标、植物、电影、游戏和新闻等。目前，系统的测试检出率已超过95%，并且仍在持续优化中。

除了图像检测系统外，腾讯朱雀实验室还开发了AI生成文本检测系统。该系统通过分析大量AI生成文本和人类写作内容的数据，实现了对文本的精准检测。系统收集了大量正负样本来提高检测效果，并涵盖了不同领域和不同类型的大语言模型生成文本。此外，系统还采用对比方法，将待检测文本与大模型预测内容进行重叠度比较，以推断文章的AI生成概率。

目前，AI生成文本检测系统已经覆盖了新闻通讯、公文、小说、散文等多种文体。腾讯表示，未来还将进一步扩展到诗歌等体裁，以提高文本识别的准确率。这两款检测工具的推出，不仅有助于解决AI生成内容的信任问题，也为用户提供了一种有效的鉴别手段。