最近，《卫报》的一项调查揭示了OpenAI的ChatGPT搜索工具可能存在的安全风险。调查发现，ChatGPT在处理含有隐蔽内容的网页摘要时，可能被操控，甚至可能输出恶意代码。这些隐蔽内容可能包括第三方指令，意图干扰ChatGPT的回答，或是大量隐蔽的文字，推广特定产品或服务。

乱码黑客

图源说明：该图片由AI生成，图片授权由Midjourney提供

在测试中，ChatGPT被提供了一个伪造的相机产品页面链接，并要求对其是否值得购买进行判断。在普通页面上，ChatGPT能够客观地分析产品的优缺点。但一旦页面中的隐蔽文本包含要求给出正面评价的指令，ChatGPT的回答就会变得过于积极，即使页面上有负面评论。此外，即便没有明确指令，简单的隐蔽文本也能影响ChatGPT的总结结果，使其倾向于给出正面评价。

CyberCX网络安全专家Jacob Larsen警告，如果ChatGPT的搜索系统以当前状态全面推出，可能面临“高风险”，有人可能会故意设计网站来误导用户。但他也提到，OpenAI拥有一支强大的AI安全团队，预计在功能对所有用户开放时，他们已经对这些问题进行了严格测试和修复。

搜索引擎如谷歌曾对使用隐蔽文本的网站进行惩罚，使其排名下降，甚至被完全移除。SR Labs首席科学家Karsten Nohl指出，对于任何搜索引擎来说，SEO中毒都是一个挑战，ChatGPT也不例外。尽管如此，这并非大语言模型本身的问题，而是作为搜索领域新参与者所面临的挑战。

重点提示:

🚨 ChatGPT可能受到隐蔽内容的影响，给出不准确的评价。

🔍 隐蔽文本能够影响ChatGPT的评估，即便页面存在负面评论。

🛡️ OpenAI正在积极解决潜在问题，以增强搜索工具的安全性。