在当今的医疗保健中,电子健康记录(EHRs)和日常文档记录对患者的护理至关重要。EHRs提供了患者的全面健康信息,包括病史、诊断和治疗。然而,由于EHR叙述内容繁多且复杂,容易导致医疗人员信息过载,进而增加诊断错误的风险。近年来,生成式大型语言模型(LLMs)在各类语言任务中的表现令人瞩目,但在医疗领域的应用面临诸多挑战,尤其是在减少诊断错误和避免对患者造成伤害方面。
为了应对这些挑战,研究者们提出了一种创新方法,通过引入医学知识图谱(KG),结合一种名为“DR.KNOWS”的图模型,来增强LLMs在自动生成诊断的准确性。该模型基于临床诊断推理过程,旨在帮助LLMs更好地解释和总结复杂的医疗概念,提供一个更准确和可解释的诊断路径。
医学知识图谱(KG)的构建基于美国国家医学图书馆的统一医学语言系统(UMLS)。UMLS 是一个包含了大量生物医学知识的数据库,它整合了多种医学词汇表,形成了概念和语义关系的知识图谱。UMLS 的概念库包含超过 450 万个概念和 1500 万个关系,这些数据提供了丰富的知识支持。本研究从 UMLS 中提取了医疗概念,并主要使用了系统化医学术语(SNOMED-CT),这一医学词汇标准广泛用于电子健康记录(EHRs)中。
UMLS 的概念词汇包括多个语义类型和网络,帮助有效探索和支持语义理解。研究者们从这些概念和语义关系中构建了一个知识图谱,其节点表示医疗概念,边表示概念间的语义关系。在该图谱上,通过多跳(multi-hop)推理,可以从输入的病人病历信息推断出潜在的诊断结果。
图:根据病人的医疗描述,从 UMLS 知识图谱推断的可能诊断。用彩色方框突出显示 UMLS 医学概念(“女性”、“败血症 ”等)。每个概念都有自己的子图,其中概念是顶点,语义关系是边(由于篇幅限制,在此图中忽略了 “女性 ”的子图)。通过第一跳转,我们可以识别出与输入描述最相关的邻近概念。顶点的颜色越深,说明它们与输入的描述越相关。根据最相关的节点,可以进一步进行第二跳,最终得出 “肺炎和流感 ”和 “呼吸窘迫综合症 ”的诊断结果。
DR.KNOWS 模型接收的输入是来自病人的医疗描述文本,该文本通过医学概念提取工具(如 cTAKES 或 QuickUMLS)解析出相关的 UMLS 概念。这些概念作为知识图谱的输入节点,经过多跳推理生成诊断结果。为了确保推理的高效性,每个 UMLS 概念都分配了唯一的 SNOMED 概念标识符(CUI)。最终形成知识图谱。
知识图谱中的节点表示医学概念,边则表示概念之间的语义关系。对于每一个输入概念(如病人症状或病史),系统首先进行 1 跳推理,识别该概念的直接邻居节点(与该概念有直接关联的其他概念),这些邻居节点根据与输入描述的相关性进行排序。模型会选出前 N 个最相关的邻居节点,然后继续执行下一跳推理,直到找到最合适的诊断节点。
接下来,模型为每个1跳关系生成路径表示,并通过两种注意力机制进行路径排序——多头注意力机制(MultiHead Attention,MultiAttn)或三线性注意力机制(Trilinear Attention,TriAttn)。这些机制评估路径与输入文本的相关性,并根据得分确定是否继续进行更多跳数的探索,直到找到合适的诊断结点为止,或选择终止探索。
模型使用AdamW优化器进行训练,通过跨多个跳数追踪与诊断相关的概念。使用CUI预测损失函数来提升模型的准确性,通过将预测的CUI与真实值进行对比,不断优化模型性能。
DR.KNOWS模型的性能通过多种指标进行评估,并与基线模型(如T5和QuickUMLS)进行了比较。
DR.KNOWS模型通过知识路径生成显著提高了诊断预测的准确性。特别是在CUI(概念唯一标识符)的预测任务中,DR.KNOWS相比于基线模型表现出更高的准确性(Precision)和召回率(Recall),尤其是在多跳路径上的表现更为突出。例如,MultiAttn模型在MIMIC-III数据集上达到的最佳F1得分为24.77,而基线模型的F1得分仅为9.61 。
通过将知识路径作为提示输入到大型语言模型(如T5和GPT-3.5)中,模型在生成诊断摘要时表现出更高的性能。无论是在微调还是零样本设置下,路径提示都提高了模型的CUI召回率和准确性。例如,微调后的VanillaT5模型使用路径提示后的CUI F1得分从26.19提升至27.78 。
在比较不同模型时,发现ClinicalT5模型对于医学领域数据集(如MIMIC-III)的敏感性较高,尽管其CUI F1得分低于其他版本的T5模型(如VanillaT5和FlanT5),但其使用路径提示后的F1得分依然有所提升 。
本研究提出了一个新颖的基于图谱的模型——DR.KNOWS,用于从患者的进展记录中识别可能的诊断。DR.KNOWS模型通过多跳路径选择出前N个最有可能的诊断,优于传统的概念提取和T5基线模型。通过使用这些路径作为提示对T5模型进行微调,并结合路径驱动的零样本提示对ChatGPT进行诊断预测,结果显示利用知识路径能显著提高诊断预测的准确性。手动分析还表明,ChatGPT在推理和解释诊断结论时有效地利用了这些路径。
该研究展示了将知识图谱与语言模型结合,能够有效提高诊断生成的准确性和可解释性,并为未来在医疗诊断生成领域的进一步研究提供了方向。
文章来自于微信公众号“朱导小组会”
【开源免费】XTuner 是一个高效、灵活、全能的轻量化大模型微调工具库。它帮助开发者提供一个简单易用的平台,可以对大语言模型(LLM)和多模态图文模型(VLM)进行预训练和轻量级微调。XTuner 支持多种微调算法,如 QLoRA、LoRA 和全量参数微调。
项目地址:https://github.com/InternLM/xtuner