近期，慕尼黑大学、慕尼黑机器学习中心及Adobe Research共同发布的研究报告显示，GPT-4o、Gemini1.5Pro和Llama-3.3-70B等12款顶级AI语言模型在处理长文本概念推理任务时，均表现出明显的性能下降。尽管这些模型具备至少128，000个标记的上下文处理能力，但其在深层逻辑关联方面的能力仍存在根本性的局限。

研究团队开发的NOLIMA（无文字匹配）基准测试系统，通过避免关键词重复，揭示了AI模型在概念联结上的脆弱性。例如，在描述“Yuki住在Semperoper旁”的文本中，模型必须先理解“Semperoper位于德累斯顿”的常识，才能回答“谁去过德累斯顿”的问题。

机器人上班打字

图源备注：图片由AI生成，图片授权服务商Midjourney

测试结果显示：

1. 长文本性能急剧下降：当上下文从2，000扩展到8，000标记时，多数模型性能明显下滑；在32，000标记的场景下，12款模型中有10款的表现仅为短文本时的一半。

2. 注意力机制暴露短板：模型难以在长文本中准确定位关联信息，当关键答案出现在文本后半段时，准确率进一步下降。

3. 专用推理模型仍存缺陷：针对复杂推理设计的o1、o3-mini及DeepSeek-R1系统，在32K标记的NOLIMA-Hard测试中得分不足50%，尽管它们在短文本中几乎完美。

研究指出，模型过度依赖“词语匹配”的惯性思维是核心问题。当测试刻意排除相同词汇时，即便使用思维链（CoT）提示技术，Llama-3.3-70B的长文本处理能力提升仍有限。更严重的是，无关上下文中若存在词语匹配干扰，反而会加剧模型误判。

“这揭示了当前AI的根本矛盾——扩展上下文窗口容易，提升深层推理能力难。”研究人员强调。以GPT-4o为例，虽然其达到8，000标记的有效上下文长度，但在跨段落概念整合中仍显不足。随着文本延长，模型注意力机制逐渐“失焦”，难以维持连贯的逻辑链条。

该研究为AI发展敲响了警钟：单纯增加处理长度无法突破推理瓶颈。业界需重新审视模型架构设计，开发更高效的信息提取与关联机制。未来，如何让AI真正理解文本而非依赖模式匹配，将成为突破长文本处理极限的关键。