#位置偏置

上下文位置偏置：为什么大模型对长文档中间信息“视而不见”？

本文以长文档问答为场景，解释大模型对上下文不同位置信息利用率差异的现象，即“Lost in the Middle”问题。分析注意力分布与训练数据截断等成因，对比截断、重排、检索增强等缓解策略，并讨论在RAG流水线中的工程取舍，帮助读者理解并应对长上下文利用的挑战。