LLM-as-Judge 位置偏见:为什么答案顺序会影响评分以及如何缓解
本文以自动评估问答系统为场景,解释 LLM-as-Judge 中位置偏见(答案顺序影响评分)的成因,分析注意力机制与训练数据的影响,对比交换位置、多次采样、校准评分等缓解策略,并讨论评估偏差对模型迭代决策的误导风险。
共 1 篇文章
本文以自动评估问答系统为场景,解释 LLM-as-Judge 中位置偏见(答案顺序影响评分)的成因,分析注意力机制与训练数据的影响,对比交换位置、多次采样、校准评分等缓解策略,并讨论评估偏差对模型迭代决策的误导风险。