AI也会“断片”？换个提问顺序，大模型直接变“差生”

🤖 AI也会“断片”？换个提问顺序，大模型直接变“差生”

你有没有过这种体验：明明是同一个问题，换个语序问AI，得到的答案质量天差地别？比如先给选项再给背景，AI就开始瞎蒙；先给背景再给选项，它又能答对。最近POSTECH和HU AI LAB的研究团队就揪出了大模型这个“小毛病”，还把背后的原因扒得明明白白——罪魁祸首竟是大模型天生自带的**「因果注意力」机制**。

这篇题为《Lost in the Prompt Order: Revealing the Limitations of Causal Attention in Language Models》的论文，用一个经典的多项选择问答（MCQA）场景，把大模型的“注意力bug”给晒了出来。

🧪 用一道选择题，看穿大模型的“注意力陷阱”

我们先通过一个生活化的例子，看懂实验里的两种提问顺序：

✅ 【正常顺序：CQO】

先给「上下文（Context）」→ 再给「问题（Question）」→ 最后给「选项（Options）」

上下文：“小明今天去了超市买苹果，因为他想做苹果派。”
问题：“小明买苹果的原因是？”
选项：A. 做沙拉 B. 做苹果派 C. 送人

❌ 【“坑人”顺序：QOC】

先给「问题（Quest