Meta 研究人员揭开大语言模型黑箱,修复 AI 推理缺陷
近日,Meta 的人工智能研究团队与爱丁堡大学合作,开发了一种新技术,能够预测大型语言模型(LLM)推理的正确性,M并在发现错误时进行修复。这种名为电路基础推理验证(CRV)的方法,旨在深入观察 LLM 的内部 “推理电路”,以便在模型解决问题et时检测出计算错误的迹象。
研究表明,CRV 可以通过构建并观察模型内部激活的计算图,以高准确率检测到 LLM 的推理错误a 。这一突破性的发现意味着研究人员可以利用深层次的内部信息,对模型的错误推理进行针对性的干预。
链式思维推理(CoT)作研究为一种提升 LLM 在复杂任务上表现的方法,已经被广泛应用,但它的可靠性依然存在问题。现有的验证方法主要分为两类:“黑箱”人员 方法通过分析最终生成的 token 或置信度分数来验证;“灰箱” 方法则试图观察模型的内部状态,然而这些方法并不能解释计算失败的揭开根本原因。
CRV 采用了一种 “白箱” 验证方法,认为模型在执行任务时会使用专门的神经元子图。通过替换标准的稠密层为训练过大语的 “转码器”,研究人员使目标 LLM 变得可解释,从而可以观察到其内部工作原理。接着,CRV 会构建一个 “归因图”,映射信息言模在模型各个部分之间的因果流动,并提取出描述图特性的 “结构指纹”。最终,训练一个 “诊断分类器” 来预测推理步骤是否正确。
研型黑究团队在 Llama3.1模型上进行了实验,结果表明,CRV 在各种数据集和指标上均优于其他验证方法,展现了其强大的有效箱,性。同时,研究发现,不同推理任务中的错误签名具有领域特异性,这意味着不同类型的推理依赖于不同的内部电路。
最重要的是修复,CRV 不仅仅是相关性分析,它提供了一种透明的计算视图,使得预测的失败可以追溯到特定组件,研究人员因此可以通过抑制错误特 A征,实时修正模型的推理路径。
划重点:
CRV 技术能有效预测并修复 LLM 的推理错误,提高 AI 的可靠性。
🧠 研究采用了 “I 白箱” 验证方法,揭示了 LLM 的内部推理电路。
CRV 的成功应用为未来 AI 模型调试工具的开发奠定了基础。
- ·大众CEO Twitter首秀 对马斯克喷“垃圾话”
- ·标签: 鸿蒙 英伟达 微信 小米YU7GT
- ·标签: 抖音 打假 测评 揭黑
- ·Google 宣布 Gemini 将登陆电视:不仅能帮你找片,还能辅导功课
- ·唯一能量产屏下相机的手机厂商:不是华为,小米,也不是苹果三星
- ·OpenAI 计划削减微软收入分成,以应对巨额计算成本
- ·谷歌无人驾驶业务Waymo拟融资40亿美元 考虑分拆上市
- ·云计算核心技术Docker教程:Docker 守护进程dockerd绑定主机端口
- ·标签: Kimi 月之暗面 张予彤 AI模型
- ·标签: 软银 英伟达 孙正义 AI泡沫
- ·大数据看近7天离开北京的人都去了哪儿?
- ·云计算开发:Python练习实例-用auto定义变量
- ·标签: 闪迪 AI基础设施 数据中心 边缘计算
- ·标签: iOS 26.3 小米 SU7 比尔·盖茨 GLM-5
- ·BI工具选型指南!
- ·标签: 蔚来 李斌 AI 智能驾驶
- ·亚马逊测试家具安装服务:对百思买和家得宝构成威胁
- ·清华IDEA团队重磅发布GUAVA!单张照片0.1秒生成3D化身,技术突破震撼全球
- ·标签: 演语科技 LiblibAI 星流 LibTV
- ·QuestMobile 数据:豆包月活超越DeepSeek,荣登中国原生 AI APP 榜首
- ·标签: 恒逸石化 己内酰胺 聚酯 炼化
- ·英特尔第四季度营收200亿美元 净利同比下降15%
- ·在 PyTorch 中使用 Datasets 和 DataLoader 自定义数据
- ·标签: 飞猪 租车自驾游 新能源车 舒心租
- ·大数据为企业带来的6个好处
- ·AI安全赛道新贵崛起!Irregular获8000万美元融资,估值4.5亿专攻AI模型安全
