主页 › 范文 › 中外语言 › 本文

CuriosiTree: 语言模型战略信息获取框架

摘要

文章提出CuriosiTree框架,使大型语言模型能够在测试时自主获取异构信息源。该方法通过贪心树搜索估计不同信息获取行动的期望信息增益,平衡信息价值与获取成本。在临床诊断模拟中,CuriosiTree整合推理生成、文献检索、患者问诊和实验室检测等多种信息渠道,以较低累计成本实现更高诊断准确率。相比单模态基线和随机行动选择策略,该方法显著提升诊断成功率并降低信息获取成本

1. 引言

决策者常面临信息不足的困境,需通过咨询权威或开展实验等方式获取关键信息。不同信息获取渠道存在显著成本差异,平衡信息价值与获取成本成为核心挑战。文章针对大型语言模型提出测试时信息获取框架,模拟临床医生诊断流程:基于初始信息形成假设分布,当置信度不足时采取信息收集行动,直至获得可靠诊断结论。

2. 信息生态系统

文章将知识获取分为五大类:内在知识(模型权重直接获取)含直接知识与深思知识;外在知识分文献知识(可检索文档)、制度知识(人类专家未编码经验)和实验知识(需实证研究获得)。不同知识分区需特定查询方式,且对应不同获取成本,如生成推理标记成本显著低于开展新实验或咨询专家。

3. 战略测试时信息获取

3.1 问题形式化

设数据点为$(X_D^{(i)},Y^{(i)})$,其中$X_D^{(i)}$表示完整临床状态(隐含维度$D$),$Y^{(i)}$为诊断标签。初始仅能观测低维投影$X_{d_0}^{(i)}$。模型在离散时间步$t$选择行动$a_t \in \mathcal{A}_t$揭示更多信息,行动集$\mathcal{A}_t$随时间演化(如患者需先完成基础评估才可进行MRI扫描)。

3.2 CuriosiTree框架

该方法通过蒙特卡洛近似计算期望信息增益:

\[ \text{EIG}(a_t|X^{(i)}_{d_t}) = H(\widehat{\Pr}(Y^{(i)} \mid X^{(i)}_{d_t})) - \mathbb{E}_{\hat{X}^{(i)}_{d_{t+1}}} [H(\widehat{\Pr}(Y^{(i)} \mid \hat{X}^{(i)}_{d_{t+1}}))] \]

采用启发式策略选择行动:$a_t = \operatorname*{arg\,max} [\widehat{\text{EIG}}(a_t|X^{(i)}_{d_t}) - \lambda c(a_t)]$,其中$\lambda$调节效用与成本的权衡。为适应语言模型特性,引入先验锁定技术显式计算候选标签条件下的期望熵。

4. 实验验证

4.1 临床诊断模拟器

构建四类信息获取渠道:生成推理标记(成本1)、维基百科检索增强(成本1)、患者问诊(成本2)和实验室检测(成本3)。模型每步评估20个候选行动,累计成本超预算时终止并弃权,预测置信度超阈值$\tau$时输出诊断。

4.2 实验结果

在狼疮诊断任务中,CuriosiTree总成功率(89.2%)显著高于随机行动(52.4%)和自我评估(68.3%)基线。该方法成功案例的平均成本(7.2)低于其他策略,体现其成本效率优势。多模态整合分析表明:制度知识类行动(患者问诊)占比最高(42.1%),与深思知识行动(38.7%)形成互补;而基线方法过度依赖单一知识源。

4.3 知识类型作用分析

内在推理步骤主要起锐化预测分布作用:在84%案例中保留最可能诊断,62%案例降低预测分布熵值。这表明推理过程更多是强化现有假设而非改变核心判断,与外部信息获取形成功能互补。

相关论文