2025年1月17日，腾讯正式推出了AI图片鉴别工具，此工具致力于辅助用户识别图片是否由AI生成。
由腾讯混元安全团队朱雀实验室研发的AI生成图片检测系统，用户只需上传图片并等待验证，几秒钟内即可得知图片是否由AI生成。该系统通过分析真实图片与AI生成图片的差异进行判断，例如AI生成图片可能包含不符合常识逻辑的内容，如飞鸟、雪茄猫等；AI生成图片通常会有水印，这些标识可能是显式的，也可能是隐性的，需要专门的检测工具来识别；AI生成的图片中还可能包含一些肉眼难以察觉的隐层特征，例如调整HSV色彩空间后，AI生成的图片可能会出现局部纹理密集的亮点。
识别AI生成图片不能仅凭单一证据，检测系统需利用AI模型捕捉图片的纹理、语义和隐层特征等差异。朱雀实验室采用140万份正负样本进行模型训练，覆盖多种生成内容场景，最终测试检出率高达95%以上，并持续优化提升。此外，朱雀实验室还开发了文本检测系统，通过学习海量数据实现文本检测，并运用对比方法推断文章的AI生成概率，以增强对未知数据的检测能力。目前，该系统支持新闻通讯、公文、小说、散文等多种文体，未来还将扩展至诗歌等体裁。
朱雀实验室开发AI检测工具的初衷是优化混元大模型的训练语料，但随着AI技术的迅猛发展，学术界和产业界对“用AI检测AI生成”的需求日益增加，实验室随后推出了AI生成图片检测和AI生成文本检测两款工具，并提供免费体验服务。
未来，朱雀实验室还将推出AI生成视频的检测工具，进一步丰富检测功能。
体验地址：
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
暂无评论