破解 AI 幻觉：华人团队找到数学密码与对抗策略

[zezexihaha]

AI 大模型 “幻觉” 难题在 2025 年迎来突破性进展。UIUC 与哥伦比亚大学华人团队发现，“幻觉” 本质是模型内部 “知识遮蔽”—— 高频知识对低频知识的压制效应，并构建出幻觉率计算公式：幻觉率 =α⋅ln (P)+β⋅ln (L)+γ⋅ln (S)+δ。​

该公式揭示三大关键因素：相对知识流行度（P）、相对知识长度（L）与模型规模（S），参数量 13B 的模型幻觉概率比 160M 模型高 3 倍，长文本知识幻觉率比短文本高 40%。基于此，团队提出 CoDA 对抗策略，通过检测被遮蔽 token、量化遮蔽效应、增强低频知识三步修正偏差。​

实验显示，CoDA 在 NQ-Swap 任务中将误差率降至 18.3%，多跳推理任务误差率仅 26.1%，较传统方法降低 60%。这一成果不仅可提前评估幻觉风险，更能优化训练数据分布，为医疗、金融等关键领域的 AI 应用扫清障碍，推动大模型从 “知识存储器” 升级为 “智能协调者”。