大模型不确定性估计:为什么 logit 概率与熵在事实问答中会失效
企业知识库问答里,模型对错误答案也可能给出很高的 token 概率。本文解释 logit 概率、预测熵与 token 级置信度为何把事实不确定性和措辞不确定性混在一起,分析校准、分布外输入与过度自信的关系,并对比采样一致性、语义熵与内部状态方法在延迟、成本和部署边界上的取舍。
共 2 篇文章
企业知识库问答里,模型对错误答案也可能给出很高的 token 概率。本文解释 logit 概率、预测熵与 token 级置信度为何把事实不确定性和措辞不确定性混在一起,分析校准、分布外输入与过度自信的关系,并对比采样一致性、语义熵与内部状态方法在延迟、成本和部署边界上的取舍。
在陌生城市用手机指南针找方向时,常被提示画圈校准。本文解释手机磁力计如何感知地磁场方向,以及铁磁物体和电子设备如何干扰测量,说明校准为何能消除硬磁与软磁干扰,并指出校准后仍可能漂移的原因。