人工智能技术的飞速进步，使得AI生成的文本、图像和视频在多个领域得到广泛应用。然而，这也引发了信任危机，虚假信息的传播对社会构成潜在威胁。为应对这一挑战，腾讯近期推出了一款新型AI生成内容检测工具，旨在利用AI技术对抗AI生成内容。
该工具由腾讯朱雀实验室研发，包括AI生成文本检测和AI生成图像检测两大系统。腾讯官方表示，尽管AI生成的图像在外观上越来越逼真，但仍然存在可识别的痕迹。用户只需几秒钟的快速验证，即可判断上传的图像是否由AI生成。
在检测机制上，系统主要通过对真实图像与AI生成图像之间的细微差异进行捕捉来区分。例如，AI生成的图像有时会违反常识逻辑，或需添加水印。此外，AI生成图像可能包含特定的隐层特征。为确保检测准确性，腾讯在模型训练中使用了140万份正负样本，涵盖人体、风景、人物、地标等多种场景，最终检出率超过95%，且系统仍在持续优化。
在文本检测方面，腾讯的检测系统同样依赖大量正负样本进行训练，覆盖新闻、公文、小说、散文等多种文体。通过对比检测文本与大模型的预测内容，系统能够推测文本的AI生成概率，从而提高对未知数据的检测能力。未来，腾讯还计划将文本检测系统扩展至诗歌等其他体裁，以进一步提升识别准确率。
通过这一创新举措，腾讯旨在为用户提供更安全、可信的网络环境，有效遏制虚假信息的传播，推动社会的健康发展。
暂无评论