腾讯推出大模型检测工具 可通过AI识别AI生成的图像 增强打击假冒伪劣的能力

1月17日讯 随着文生文、文生图和文生视频等技术的不断成熟，随之而来的信任问题也开始显现。为应对这一挑战，腾讯今天宣布推出针对 AI 生成文本和图像的检测工具。

腾讯官方表示，尽管 AI 生成的图像在细节表现上愈加真实，但仍然存在可追踪的痕迹。为了应对这一现状，朱雀实验室研发了一套 AI 图像检测系统，用户只需将待检测图片上传，经过几秒钟的验证，即可得出判断结果——这是一项通过 AI 技术判断 AI 生成作品的创新。

该检测系统的工作原理在于识别真实图片与 AI 生成图像之间的差异。例如，AI 生成的图像有时会违反常识，或者可能需要加水印以示区分，此外还可能包含某些隐层特征。腾讯指出，判别 AI 生成内容通常不能仅依赖于单一的判断标准，因此该系统结合了多种 AI 模型，以便综合识别真实图像与 AI 生成图像的多项特征差异，包括纹理、语义及其他隐形特征。

为了提升检测的准确性，腾讯在模型训练过程中使用了多达140万份的正负样本，并考虑了多种不同的生成内容场景，例如人体、肖像、风景、地标、植物、影视、游戏和新闻等。这一系统的最终测试检出率已超过95%，同时腾讯仍在不断优化和提升检测效果。