近日，在社交平台 X 上，一位网友发现了一个关于 ChatGPT 最新版本 GPT-4o 的有趣现象。当尝试让 GPT-4o 生成一幅玫瑰花图像时，它却拒绝了这个请求，理由是“无法生成这朵玫瑰的图像，因为它未能符合我们的内容政策”。这个意外的回应迅速引起了广大网友的关注和热议，许多人对此现象产生了浓厚的兴趣，并试图探索背后的原因或找到绕过这一限制的方法。
为了探究这一现象的真实性，网友们进行了一系列实验。有人用中文和英文提问，也有人尝试用特殊符号替换“玫瑰”这个词，但无一例外，都遭到了拒绝。即便是请求生成一幅黄玫瑰图像，GPT-4o 也同样表示无法完成。然而，当尝试生成其他花卉图像，如牡丹时，GPT-4o 的表现却相当出色，这说明其图像生成能力本身并没有问题。
在此期间，有网友在中心位置分享了一张图片，供大家参考。
随着讨论的深入，关于“玫瑰”为何会被限制的猜测层出不穷。有些人认为，“玫瑰”可能因为某种原因被列入黑名单；也有网友推测，ChatGPT 可能将“玫瑰”视为某种隐晦的暗示，从而无法生成相关图像。更有趣的是，一些用户调侃，情人节期间大量的类似请求可能导致了系统对“玫瑰”的限制。
在后续的测试中，网友们发现，如果将“玫瑰”换成复数形式，或者不直接提及“玫瑰”而是描述其特征，GPT-4o 就能顺利生成玫瑰图像。这一发现引发了人们对 AI 内容过滤机制的深入探讨，推测可能是由于开发者在内容政策上的硬编码，导致了这种异常的误判现象。
与此同时，ChatGPT 的这一禁忌词也引发了人们的联想，类似情况在之前也曾出现过。当用户询问某些特定名字时，系统也会模糊回应，显示出对特定内容的回避。尽管目前“生成一朵玫瑰花”成为了新的禁忌，但其他 AI 聊天机器人如 Gemini 和 Grok 等，依然可以顺利生成玫瑰图像，显示出不同平台在内容限制上的差异。
随着这一事件的发酵，人们对于 AI 内容审查的合理性和透明性提出了更多质疑，同时也期待未来的 AI 能够在合理范围内，满足用户的多样化需求。
暂无评论