医学信息学中逻辑方法的可解释人工智能论证- 智能系统与医学信息学的结合

智能系统与应用16（2022）200109医学信息学中可验证人工智能的论证方法Luciano Caroprese*，a，Eugenio Vocaturo a，b，Ester Zumpanoa， ba意大利卡拉布里亚大学DIMESbCNR - Nanotec，Rende（CS），ItalyA R T I C L EI N FO关键词：论证EX可规划AI医学信息学A B S T R A C T人工智能算法在执行准确预测方面非常强大，但它们通常被认为是黑箱，因为它们没有提供任何关于输出如何从输入中导出或为什么做出决策的解释。因此，迫切需要一个完全透明和可解释的人工智能（XAI），这也是《通用数据保护条例》（GDPR）中明确规定的解释权所承认的。在诊断、决策支持和可解释性方面已经有了很多研究，并且在医学领域对开发可解释的AI有着重大的兴趣医学领域的可解释性不仅仅是一个内在的好奇心，而是一个关键因素。医疗选择影响患者的生活，并包括临床医生的该提案通过证明其可解释性和表达性的自然特征如何帮助设计道德，可解释和合理的智能系统来研究使用逻辑方法进行可解释AI的好处。更具体地说，本文重点讨论了一个详细的主题有关的使用论证理论在医学信息学的文献中概述现有的方法。综述根据论证的具体目的将方法分为以下几类：医疗决策论证、医疗解释论证和医疗对话论证。1. 介绍人工智能（AI）无处不在。人工智能算法在执行准确预测方面非常强大，因为它们能够在复杂的场景中提出正确的决策和推理，但它们通常被认为是黑箱，因为它们没有提供任何关于输出如何从输入中导出的解释，或者换句话说，为什么已经决定了。然而，在可能影响一个人生活的重要决策中，如诊断疾病，或在国家安全中，如国防决策，充分了解人工智能决策的原因至关重要。为此，《通用数据保护条例》（GDPR）主要涉及数据收集和管理的方法，还包含第22条：自动化个人决策，包括分析1.该条款涉及自动化处理的使用，并强烈要求必须获得 一个 解释 的 的 决定2通过 之证明 的 逻辑运算自动化系统执行从给定输入获得输出。这个话题在Koshiyama et al.（2019）和GDPR提出的解释权的基本问题，直接与机器学习（ML）应用程序的使用有关，在Goodman和Flaxman（2017）中与非歧视权一起讨论。因此，迫切需要一种完全透明和可理解的AI，即可解释AI（XAI）。一个可解释的、跨父的人工智能系统必须满足一些一般要求：它必须提供决策、建议，但它也必须能够证明所提供的决策、建议是如何和/或为什么给出的。在支持诊断、决策支持和可解释性方面已经做了大量的研究，并且对该领域的在创造XAI的过程中，在医学职业中，坦白是一个至关重要的因素，而不仅仅是一种智力上的好奇心。患者* 通讯作者。电子邮件地址：l. dimes.unical.it（L.Caroprese）。1https://gdpr-info.eu/art-22-gdpr2在任何情况下，此类处理都应受到适当的保障，其中应包括向数据主体提供特定信息以及获得人为干预的权利，表达其观点，获得对此类评估后达成的决定的解释以及质疑该决定。https://doi.org/10.1016/j.iswa.2022.200109接收日期：2022年4月21日;接收日期：2022年7月20日;接受日期：2022年8月8日在线预订2022年2667-3053/© 2022作者。由Elsevier Ltd.发布。这是CC BY-NC-ND许可证下的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。可在ScienceDirect上获得目录列表智能系统及其应用杂志主页：www.journals.elsevier.com/intelligent-systems-with-applicationsL. Caroprese等人智能系统与应用16（2022）2001092未来的治疗在这个领域，理解为什么会失败，为什么事情会顺利进行，以及如何利用它们进行未来的医学研究，是至关重要的。由于其内在的表达性和可解释性，逻辑编程（LP）对XAI有着重大的影响。LP的使用利用了使用各种替代语义的推理，并允许不同形式的推理、偏好标准、硬/软约束规范、模糊信息的处理、不完整和不一致知识的建模以及声明性知识表示。这些特征确保满足XAI和候选逻辑方法的基本需求，作为创建可解释，合理和道德的人工智能系统的关键构建块。因此，XAI方法可以大大受益于逻辑方法，研究界正在深入研究这一相关任务。至于论证的具体应用，这也通过涉及论证计算模型的竞争得到了证明。埃利等人（2021年）。在最近的文献中，许多不同的建议都是关于医学领域中可解释性概念的。（2019）; Tonekaboni et al. （2019）; Xie et al. （2019）和非常有趣的调查已经写了：见米勒（2019）从不同的角度看XAI的相关论文的一般审查和达斯和拉德（2020）在XAI的一般挑战的概述。本文是对XAI在医学信息学中的论证方法的调查，与现有的关于该主题的调查不同，该主题具有广泛的范围，追求不同的视角：它着眼于与医学领域中使用论证框架相关的详细主题。1.1. 可解释人工智能为了满足透明和可解释的人工智能的要求，可解释的人工智能主要有两种方法：透明设计方法和事后解释方法。透明的设计方法。透明设计方法旨在通过查看模型如何这些方法在某种意义上打开了黑盒，揭示了黑盒的内部实现。最终的成就是澄清导致解决方案的任何细节：模型，其结构，参数值，训练算法。透明设计方法遵循系统开发人员的观点，并试图在决策的准确性要求和透明度需求之间保持微妙的平衡。他们回答了这样一个问题：解决方案是如何获得的？事后解释方法。这些方法的目的是全面解释提出具体产出决定的理由。他们的努力是在输出解决方案的基础上给出对动机的分析见解。他们遵循系统用户的观点，不与黑盒实现接口，并回答问题：为什么得到了解决方案？1.2. 论文的主要贡献在下文中，我们报告了本文的主要贡献我们对许多类型的逻辑程序设计进行了透彻的解释，同时强调了陈述式方法固有的表达性和可解释性。这些功能确保满足广泛的XAI标准，并且候选逻辑方法在可解释，合理和道德的人工智能系统的设计中发挥关键作用。我们概述了论证的主要特征，论证是使用一些基本前提和连接前提和主张的论证来解释给定主张的过程。本文描述了Dung（1995）、Dung andSon（1995）的论证框架及其基本特征。它还报告了一些讨论的许多不同的论证框架中提出的文献和最重要的论证工具，允许开发论证系统的现实生活中的应用。我们调查了一个详细的主题，在医疗领域中使用的论证框架的应用程序，工具和执行特定任务的系统的中心焦点。事实上，如前所述，文献中的其他调查应用了一个巨大的视角，因此，论证在医学信息学中的使用迄今尚未得到深入调查我们概述了正在进行的将论证与医学信息学联系起来的研究方法，并根据论证的具体目的将论文分为三类：医学决策论证、医学论证和医学对话。我们提供了一个综述文献的主要特点的摘要，讨论了在医学信息学中使用XAI的论证方法的主要机会，并讨论了仍然面临的主要挑战1.3. 文件的结构本文件的结构如下。第2节介绍了与可解释AI的逻辑使用相关的评论的最新发展。每次调查都将报告基本观点和贡献。第3节描述了逻辑编程的不同分支，并证明了声明式方法的表达性和可解释性的内在特征在XAI中发挥了重要作用。第4节回顾了论证框架的基本特征，对文献中提出的许多不同的论证框架进行了一些讨论，并讨论了为现实生活应用开发论证系统的最重要的论证工具。第5节提供了如何从文献中选择相关论文的信息。第6节提供了在文献中使用医学信息学的论证框架的工作的审查。第7节提供了一个讨论，最后，第8节跟踪这个建议的结论。2. 相关调查在最近的文献中，已经提出了许多关于可解释人工智能的不同调查参见Miller（2019）对相关论文的一般调查，从不同的角度看待XAI，Das和Rad（2020）概述了XAI的一般挑战在本文中，我们感兴趣的评论，调查论证方法和可解释的人工智能之间的联系。因此，本节的其余部分报告了与这一相关和具有挑战性的研究主题有关的调查的说明Cyras等人在Cyras等人（2021 b）中提出了一个关于可解释的AI模型的有趣概述，该模型使用了来自计算论证领域的技术和方法，称为基于AF的解释。本文使用的术语模型在一个非常普遍的角度来指的是非常广泛的类别，如规划，LP工具，决策支持和推荐系统。本研究首先概述了不同类型的议论文解释，并将其分为：内在的和事后的。事后解释进一步分为事后近似解释和事后完整解释。 调查的中心焦点是模型解释了什么，以及为了执行任务使用了什么论证框架。Kakas和Michael在Antonis和Loizos（2020）中对溯因和论证进行了非常有趣和优雅的讨论，指出了它们的具体特征和它们在其中的基本作用。·······L. Caroprese等人智能系统与应用16（2022）2001093可解释的人工智能更详细地说，本文首先分析了溯因推理和论证推理作为两种主要推理形式之间的联系，然后扩展了这一提议，并回顾了这两种推理形式与机器学习之间联系的现状。Cocarasau和Toni在Cocarascu和Toni（2016）中概述了使用ML论证的方法，并根据它们使用的不同类型的ML方法，采用的论证框架，论点的形式以及它们允许实现的优势对其进行分类。本文综述了有监督学习、无监督学习、再监督学习的论证方法，并对它们进行了系统的比较他们Toja和Guan在Tjoa和Guan（2021）中研究了ML算法的可解释性和可解释性问题，并对不同形式的互操作性提出了一个有趣的调查，从一般互操作性的概念到正式的数学互操作性，通过许多其他不同的互操作性概念也与可视化有关。在医学领域中已经研究了相同的类别，以促进ML领域的医学教育，并有利于临床医生和从业者对ML算法的考虑。Vassiliades等人 在Vassiliades et al. （2021）对论证和XAI的主题进行了非常广泛和有趣的调查。该提案的重点是讨论论证如何在解决决策问题时使XAI该调查概述了在许多不同的领域，如安全，语义网，医疗信息学，法律信息学和机器人的使用论证。此外，本文很好地讨论了ML与论证的自然联系，证明了trans-parent如何能够成为一个ML系统，这要归功于论证推理。Charwat等人在Charwat等人（2015）中调查了文献中提出的实现论证框架的不同技术。该提案将这些技术分为两个不同的类别：（i）基于归约的类别，指的是将论证问题转换为不同问题的方法，例如可满足性，ASP或约束满足问题。这种策略允许使用现有系统的计算问题的论证框架;（ii）直接类，是指那些方法，实现从头开始论证。上述报告的每一个综述都有广泛的范围，因此有一个巨大的视角，并没有提供医学领域论证文献中不同提案的详细描述。从上述现有的调查的主题，有一个广泛的范围，本论文追求一个不同的视角：它看起来在一个详细的主题有关使用的论证框架在医学信息学。本文概述了正在进行的研究方法，利用论证推理，以获得一个特定的任务。无论如何，重要的是要强调，正如每篇提到逻辑增强XAI的论文中所指出的那样，这是一个非常广泛的问题，许多挑战仍然存在。3. 逻辑和可解释的AILP以不同的形式下降。其中一些，主要有助于满足XAI的基本要求，在以下3中报告：溯 因 逻 辑 程 序 设 计 （ 英 语 ： Abduction Logic Programming ，ALP）：溯因是美国哲学家查尔斯·桑德·皮尔士（Charles SanderPeirce）在1865年提出的一种著名的非单调推理。诱拐可以被非正式地描述为一个过程，3论证框架的正式介绍将在下一节给予观察。溯因逻辑程序设计（ALP）是溯因的一个相关子领域，其中背景理论由逻辑程序建模。最后一个，通常允许在头部和身体中的析取，使用标准逻辑编程语义Denecker和Kakas（2002）之一进行评估。ALP通过允许谓词子集中的不完全性（称为可溯谓词）来丰富常规逻辑编程。给定一个问题，它的解决策略从可溯谓词开始，并使用推理方案来生成对观察结果的潜在解释。一般来说，在溯因推理中有许多不同的溯因解释，它们并不同样令人信服。因此，确定一个子类，可能是狭窄的，首选的解释是一个相关的任务。经典的溯因问题可以是需要解释的观察结果，但也可以是需要获得的目标，就像在正常的逻辑编程中一样。ALP可以自然地用于解决诊断，社会科学，机器学习，规划和自然语言中的不同现实生活问题。归纳逻辑编程（ILP）：归纳逻辑编程是符号人工智能的相关领域。从正反例和背景知识中，该技术以逻辑程序的形式自动学习归纳陈述理论这就是所谓的假设，它包含了所有的正面例子，而不包含任何反面例子。该假设构成了对背景知识Muggleton and de Raedt（1994）中给定例子的解释。模糊逻辑（FL）：模糊逻辑是一种多值逻辑形式，源于模糊集理论，用于处理近似而非精确的推理。模糊逻辑F. Baldwin（1981）;Zadeh（1965）试图量化命题和结论的真实程度。不像标准的一阶逻辑（FOL），其中命题是真或假，在模糊逻辑中，命题可以具有范围在0和1之间的真值，其中0状态为假，1状态为真。模糊逻辑很容易表示，操纵和解释模糊和不确定的信息，因此可以自然地在XAI中使用。它允许在不确定/不精确的条件下对人类的思维和决策行为进行建模，以解决实际问题。Probably Logic（PL）：Probably Logic处理不确定的逻辑与概率相结合。许多不同类型和程度的不确定性可以被建模，从而导致具有概率特征的传统逻辑的各种丰富扩展。PL可以有效地用于许多不同的应用领域，并与论证相结合，负责提供一个灵活的声明性框架来表达主张，论点和前提的不确定性。LP具有内在的表达性和解释性特征.它允许以声明和直观的形式表示知识，提供不同形式的推理，指定偏好标准和硬约束和软约束，处理模糊信息，对不完整和不一致的知识进行建模，并使用不同的替代语义进行推理。这些功能自然保证满足XAI和候选逻辑方法的一般要求，成为可解释，合理和道德的人工智能系统设计的基本组成部分。如果我们考虑到不同形式的逻辑和可解释性之间的联系，在这方面的研究文献确实是巨大的。然而，本文的目标是有限的，以调查使用论证理论在现有的系统中的医疗信息学。4. 论证框架和工具Dung（1995）的论点框架（AF）背后的想法是，给定一组论点，其中一些论点攻击其他论点，我们希望找到最终可以接受的论点。要确定一个论点是否可以被接受，····L. Caroprese等人智能系统与应用16（2022）2001094⊆〈〉∈ ∈（）∈∈（）∈∈（）∈⊆∈看看它的失败者，因为他们可以被其他论点击败更正式地说，AF是一个对，其中：• A是一组元素，称为参数;• 攻击<$A× A是A上的二元关系。给定自变量x，y ∈ A，我们说x攻击y，如果（x，y）∈攻击。给定一个参数集合XA和一个参数y如果存在x，则A，X攻击yX s. t.x，y攻击，而如果X攻击每个参数z，则X防御y一 S.T. z，y攻击。 给定参数集合X，YA，如果存在x，则X攻击YX和yYs. t. x，y攻击。一个基本的问题是，一组给定的论点是否可以被集体接受，或者，类似地，哪些论点没有受到攻击其他论点。这样的问题，特别是当考虑到AF建模现实生活中的复杂场景时，远非容易。作为一个例子，看看图1中报告的简单AF。 2.我们知道视网膜病变患者通常患有糖尿病（x）。 我们还知道，如果患者血糖水平较低（y），则他/她很可能没有糖尿病。患者可能由于服用副作用是降低血糖水平的特定药物而具有低血糖水平（z）。我们观察到患者患有视网膜病变，并且由于特定药物而具有低血糖水平，其副作用是降低血糖水平。我们想得出可接受的论点。特别是，我们想知道患者是否更有可能患有糖尿病。在这种情况下，乍一看，似乎y是反对论点x的理由（患者不可能患有糖尿病，因为他/她的血糖水平低）。无论如何，y被z击败（患者的血糖水平较低，因为他/她服用了降低血糖水平的药物），这反过来又没有反驳。因此，在这种情况下，z被接受，y被击败，并且由于y不再是x的反证，x被接受。结论是患者很可能患有糖尿病。一般来说，可以接受一个以上的参数，一组可接受的参数称为扩展。给定一个AFA，攻击，一个参数子集XA是无冲突的，如果它不包含任何攻击X中另一个参数y的参数x。参考Dung（1995）的开创性工作，扩展XA被称为：容许当且仅当X是无冲突的，并且X攻击攻击它的每一个参数集合Y完全当且仅当X是可容许的且X所维护的所有参数都属于X;• Grounded当且仅当X是极小完全的（w.r.t.）set inclusion）;• 优选地，当且仅当X是最大可容许的（w.r.t.集合包含）。基于对论证和语义的不同理解，许多不同的论证框架被提出。 它们中的许多源于Dung（1995）的基本框架，Dung的主要概念（论元、扩张、扩张类型）已经在上面报道过。第一类方法包括：双极论证框架（BAF）Cayrol和Lagasquie-Schiex（2005），基于标签的论证框架（ LBAF ） Caminada （ 2008 ） ， 结 构 化 论 证 框 架 （ SAF ） Dung（2016），定量双极论证框架（QBAF）Baroni等人（2018）和概率双极 论 证 框 架 （ PBAF ） Baumeister 等 人 。 （ 2021 ） ; Fazzinga 等 人（2018）。其他一些方法提出了一个不同的概念，用于成为结构化论点的论点，并使用演绎过程获得Bondarenko et al.（1997）;Garcíaet al.（2013）;García and Simari（2004）;Modgil and Caminada（2009）。提出了一种新的标记语义，即一个语义，为每个Caminada等人（2015）对逻辑编程语义和论证语义之间的等价性进行了推理，Cayrol和Lagasquie-Schiex（2020）提出了具有高阶攻击的论证框架的逻辑编码，Alfano等人（2020）探索了基于论证的框架与部分稳定模型之间的关系。对这些不同框架的详尽论述超出了本文的范围。我们建议读者参考Cyras et al.（2021 b）;Vassiliades et al.（2021）的作品，以获得文献中外展框架的详细概述。4.1. 用于开发论证系统的本节报告了论证的主要工具。它们用于与现实生活领域相关的论证系统的快速开发。这些系统负责解决许多不同环境中的决策问题，并确保对不确定和不完整信息的管理。CaSAPI是Gaertner和Toni（2007）提出的一个系统，它实现了Dung等人（2006 a，2006 b，2006 c）提出的论证框架的推广。在CaSAPI系统中，实现了不同的推理语义：勇敢（轻信）语义和两种不同形式的谨慎（怀疑）语义。更具体地说，计算论证的三种不同机制是：Dung et al.（2006 a，b）中用于计算勇敢可接受语义的AB-争议推导，Dung et al.（2006 b）中用于计算勇敢扎根语义的GB-争议推导和Dung et al.（2006b，c）中用于计算谨慎理想语义的IB-争议推导。因此，给定一个主张，论证框架可以轻信或怀疑地包含这一点。Gorgias （ http://www.cs.ucy.ac.cy/~nkd/gorgias/ ） Kakas et al.（2019）是一个基于偏好的论证框架，其中使用将前提与主张联系起来的前件推理的基本论证方案来获得论证在戈尔吉亚斯的论证中，论证A由一组论证规则组成，其中论证规则将一组前提（通常是事实）与主张联系起来。一般来说，可以说一个论证规则支持这个主张。给定一个参数A，应用其组成参数规则允许获得多个声明。最后一个派生的权利要求是说，支持A。在Gorgias中，参数规则的语法是EX tended Logic Programming和参数结论的语法规则可以是肯定的原子语句，也可以是否定的原子语句。Gor- giasB4是在Gorgias之上开发的一个工具，它允许领域专家以系统的方式开发论证的应用程序，对论证理论知之甚少使用Gorgias的显著优点是可以将应用程序描述为一组对象级参数和固定优先级参数规则。Gor- gias是开放源码的，不同的领域，包括医疗支持系统、环境智能、安全和认知个人助理。DeLP（可废止逻辑程序设计）García和Simari（2004）是一种结合逻辑程序设计和可废止论证的论证形式主义。DeLP也使用弱规则来声明性地表示信息，并提出了一种论证推理机制。保证处理不一致知识的哲学DeLP6的解释器已经在Prolog中实现，并且抽象机JAM（Justification Abstract Machine）Garcia和Alejandro（2000）已经被实现。专为DeLP设计。DeLP允许对存在不完整和不一致信息的现实应用程序进行建模，此外，使用可废止论证允许构建知识可能发生变化的动态域。Garcia和Alejandro（2000）在股票市场中提出了一个有趣的实际应用。加权论证框架（WAF）的参数已被最近在Bistarelli和Santini（2021）;Bistarelli和Tatic-chi（2021）中提出，以及关于WAF强容许性其他有趣的文件是：4http://gorgiasb.tuc.gr5 http://gorgiasb.tuc.gr/Apps.html6 http://cs.uns.edu.ar/ajg/DeLP.html··L. Caroprese等人智能系统与应用16（2022）2001095图2. 一个简单的论证框架Fig. 1. XAI的方法。科学指导所获得的论文是上述查询的结果，对标题、关键词和摘要进行了评价。我们使用以下纳入标准来选择纳入我们综述的出版物：TOAST （ The Online Argument Structures Tool ） Snaith and Reed（2012）系统是结构化论证的ASPIC+理论Prakken（2010）的实现。TOAST是用Java实现的，参数评估是由Web服务执行的。（2010年）。TOAST系统可以通过web表单7使用，该web通过提供知识库、一组规则和一组偏好来构建论证系统和理论，并将其部署为Web服务。5. 方法和材料我们进行了系统的文献分析，对相关研究进行分类。我们对文献的研究和修订程序包括以下步骤：1. 定义要解决的研究问题和相关的查询提交最相关的学术文章数据库。2. 建立从筛选过程中纳入出版物的标准。3. 修订选定的出版物。4. 建立分类法以协助出版物的分类在下文中，我们报告了该提案基础上的研究问题：RQ1：在医疗保健领域，使用了哪些论证方法？RQ2：关于医学信息学，如何对论证方法进行分类？为了找到最有针对性的研究并检查潜在相关论文的数量，我们创建了以下查询：((XAI与逻辑）或（XAI与论证））与（医疗或保健）该查询已提交给PubMed，dblp，Google Scholar，Scopus，Webof Science，IEEE Xplore，ACM数字图书馆，SpringerLink，7http://toast.arg-tech.org/在医疗保健领域使用论证的文章。• 用英语写的文章。• 在相关期刊和会议上发表的文章。下一节是对所选论文的回顾6. 医学信息学在医疗保健领域使用论证已被证明是有吸引力的，有用的管理不一致，不完整，复杂和异构的信息。例1.简是一名22岁的女性，刚刚遭受了缺血。她酗酒，情绪低落，患有高血压。可以考虑几种治疗方案，并且选择取决于临床医生和患者的优先级，这可能不一致。简可能更喜欢药物而不是改变她的生活方式，反之亦然，但临床医生可能首先建议改变生活方式而不是药物处方。情况可能是，除了偏好之外，还应该管理约束条件：假设患者患有禁止服用某些特定药物的合并症。在所描述的场景中，论证可用于：通过考虑患者和临床医生的偏好和限制，推荐可能的治疗（医疗决策）;具体处方的理由，以证明/加强它（医疗解释）;支持各方之间的辩论性对话，以便辩论声明的有效性（医学对话）。本节的其余部分描述了文献中使用医学信息学中的论证来支持医疗决策，解释索赔/决策或支持论证对话的不同作品。更详细地说，根据论证理论所用于的不同具体目标，文献中的作品被分为三个不同的类别：• 医疗决策论证，• 医学论证，• 医学对话。······L. Caroprese等人智能系统与应用16（2022）2001096（）（）（）（）6.1. 医疗决策论证Alfreleo等人在Alfreleos等人（2020）中使用外展框架来帮助诊断阿尔茨海默病，这是一种涉及记忆，思维和行为的痴呆症，影响着世界各地数百万人。该文件有助于评估疾病，并评估大脑结构的 变化 ，如磁共振成像所证明的那样。核磁共振成像（MRI）。海马体积是疾病分类中最重要的特征脑MRI图像由阿尔茨海默病神经成像倡议（ADNI）8获得和69个呈现病理的受试者的MRI图像在该建议中，决策树（DT）和随机森林（RF）算法被用来提取一组规则开始从离散化的MRI图像。DT和RF模型的输出构成论证模块的输入，该论证模块具有提出最终学习模型的最终目标这已经通过使用基于偏好的参数化组件GorgiasB实现。该提案的第一步是将个人分为健康P和诊断Alz P。在第二步中，定义基本上对应于特征的至于第三步，它包括编写参数（规则）;更具体地说，每个参数包括一组选项谓词、变量约束以及健康P和诊断Alz P的声明。最后一步是手动执行的，包括指定必须包含在论证理论中的规则及其相关优先级。一条规则相对于另一条规则的优先级可以在特定条件下设置，也可以无条件设置。与DT和RF模型相比，所提出的论证模型表现出了改进，平均准确率达到91%。Kokciyan等人 在Kokciyanet al. （2021）提出一个有趣的元级论证框架（MAF）-称为CONSULT -作为医疗决策过程的支持。开发CONSULT系统的最终目的是帮助中风患者照顾自己的病情并坚持治疗计划。CONSULT管理静态知识（由存储在知识库中的一组事实和一组规则组成）和从健康传感器获得的动态数据，并报告有关患者生命体征的健康参数，如血压和心率。因此，该系统能够集成和正确地管理由异构信息源提供的信息。存储在知识库（KB）中的信息，来自患者的医疗记录，使用一阶逻辑建模，其表达能力足以满足高血压指南提供的建议。更具体地，参数、攻击和解释方案被表示为在KB上实例化的句子（包括变量）。Scheme规则允许自动构造对象级参数，Meta引擎负责将对象级参数和攻击转换为元级论证框架（MAF）。此外，如果存在关于优先级语句的先验知识，CONSULT还允许指定可以嵌入KB中的优先级，或者可以交互地指定给系统。更详细信息，可以指定对可能治疗的不同偏好其中一些可以由专家指定，而另一些可以由患者自己指定，并且可以在以下各项中设置优先级： 他们 科克齐扬 et al. （2018年a）。 的获得论证框架可以与答案集编程（ASP）求解器（诸如DLV 9）一起使用，以便检索MAF的经调整的参数。这些参数由解释生成组件处理它将每个合理的论点翻译成可以提供给患者的文本说明的形式。咨询系统已被实现为在Android上运行的移动应用程序，有两个不同的版本：i）仪表板或ii）仪表板加聊天机器人。一项涉及6名健康志愿者的为期7天的试点研究表明，8 http://adni.loni.usc.edu/9https://www.dlvsystem.it/dlvsite/系统的可用性和可接受性Chapman等人（2019）;Kokciyan等人（2019）扩展了CONSULT系统，以处理慢性疾病。Longo等人在Longo等人（2012）中将论证理论应用于乳腺癌复发问题，即乳腺癌手术后疾病的复发。该问题是至关重要的，并且与检查与相关特征相关的非结构化信息的能力有关，所述相关特征诸如肿瘤的尺寸、患者的绝经状态、肿瘤的类型以及类似病例的过去经历，以便提供预测。通过考虑具体特征、临床医生的专业知识和过去的类似病例，可以对临床证据进行建模（例如，在存在小尺寸癌症的情况下，癌症复发的可能性较低，或者在乳腺癌区域存在大量受累淋巴结的情况下，癌症复发的可能性较高）。本文提出了一个论证框架，该框架将临床证据建模为基于知识的论证，表示论证之间的失败关系，并最终应用论证语义来预测疾病的复发并证明结果。一个有趣的功能，建议的框架是通过考虑模糊集和隶属函数建模不确定和模糊的知识来执行推理任务的想法。该 文 件 使 用 卢 布 尔 雅 那乳 腺癌数 据 集UKWorkingGrouponthePrimar-2005年乳腺癌的诊断，包括286例经历过乳腺癌手术的女性。在语义方面，为了提高医疗决策过程的效率，我们建议在不能使用谨慎语义的情况下，使用怀疑（或谨慎）语义进行推理，并采用勇敢推理，结合一定的偏好策略。通过所提出的用于乳腺癌复发的论证框架获得的结果已经被论文的作者定义为令人鼓舞的，因为所提出的框架的预测能力与使用众所周知的机器学习工具获得的预测能力相似。Williams和Williamson在Williams和Williamson（2006）中在结合逻辑和概率的框架中对乳腺癌预后进行建模。更具体地说，两个不同的组件交互的建议：一个标准的论证理论是用来模拟知识的疾病和一个标准的概率形式主义，在贝叶斯网络的形式，是用来捕捉参数之间的概率关系。贝叶斯网络组件用于提供预测，而论证组件负责帮助证明和解释预测本身。Spanoudakis等人在Spanoudakis等人（2017）中调查了与医疗数据访问相关的健康领域的相关问题，参考了欧盟（EU）和塞浦路斯成员国制定的法规。一个论证框架是用来模拟这样一套法规。这个有趣的和重要的现实生活中的应用程序的遵守访问，就特定的欧盟和塞浦路斯的规则，被建模为一个决策问题。在存在支持不同访问级别的不同参数的情况下，较强参数允许授予访问。医疗数据访问的立法是通过使用GorgiasB工具，一旦论证理论准备就绪，允许自动生成GorgiasProlog源代码。在数据共享的具体背景下，医学领域，所提出的论证框架是一个有价值的，所以-解决方案，因为它允许监管政策的高度声明性表示。它不需要分析政策和解决冲突的战略，此外，如果监管政策发生变化Glasspool等人在Glasspool等人（2006）中描述了一种基于论证逻辑的软件应用，称为REACT（风险、事件、动作及其随时间的后果），其支持参与医疗计划的临床医生和患者。REACT允许对单个护理计划进行操作，并在用户从计划图表中插入或删除事件时提供备选方案（如果）的摘要。因此，该工具允许实时反馈，并有助于决定L. Caroprese等人智能系统与应用16（2022）2001097正确的护理计划。Cyras et al. inCyras et al.（2018）;Cyras and Oliveira（2019）;Cyras等人（2021a）提出了一项有趣的工作，该工作使用论证形式主义来推理存在冲突的临床指南。该提议被实施到一个系统中，该系统还通过检查特定信息和偏好来提供推荐。该提案允许通过组合患者信息和临床指南。指导方针内的冲突，如果存在，使用计算论证来管理确保满足特定偏好的技术。由系统提供的结果是可解释且无冲突的推荐。ABA+Cyras and Toni（2016）是提案中使用的结构化论证形式主义。6.2. 医学解释Shankar等人在Shankar等人（2006年）中提出了一种解释性框架，称为WOZ，该框架为临床决策支持系统的输出提供了理由。更详细地说，WOZ是一个多客户端框架，是知识库系统EONMusen等人 （1996），可用于支持基于指南的护理的实施中的临床决策制定的软件组件和临床模型的集合。WOZ解释框架用于ATHENA DSS，这是一种基于EON架构的原发性高血压管理决策支持系统Goldstein etal.（2000）。ATHENA DSS分析高血压指南模型，在一些实施例中，患者管理系统可以处理个体患者数据并生成患者特定的临床护理建议，诸如将特定药物添加到患者的方案。ATHENA DSS之上的WOZ解释框架为用户提供了支持和证明ATHENA DSS结论的论据。WOZ的问题解决组件，如EON中，使用临床程序和医学领域知识的明确模型，抽象化用于解释的策略。它定义了WOZ用于证明声明的信息，并遵循Toulmin（1958）的论证结构，以组织支持诊断或治疗计划的医学证据。因此，在WOZ中用于推导解释的策略被设想为包括更多信息，而不仅仅是导致索赔的指导方针（例如，指向其他资源的链接）。此外，该策略以论证结构的形式进行安排和呈现，用户可以轻松导航其不同级别，以便了解相关患者数据和药物建议，支持声明的主要原因总结以及有助于提供理由的相关资源的所有链接。在Grando等人（2013）中，Grando等人提出了对EIRA（异常解释、推理和推理）Moss（2010）的扩展，这是一种现有的基于知识的系统，已成功检测出重症监护室（ICU）中患者对治疗的异常反应，但无法向临床医生解释异常检测背后的原理。虽然EIRA已被证明是非常准确的，但它缺乏一个合理的系统，可以以用户友好的方式明确算法背后的复杂推理。然后，他们提出了EIRA，这是EIRA的一个扩展，它取代了最复杂的算法，用于生成对ICU治疗异常患者反应的潜在解释，具有基于论证的决策系统。Tobias Mayer在Mayer（2020）中集中讨论了参数挖掘系统，用于从临床试验中提取参数，解决以下问题：（i）如何在自然语言临床试验中区分论证和非论证成分？(ii)应如何将已确定的论证部分归类为证据或主张？临床试验是用自然语言编写的文件，比较不同疗法的相对优势。因此，迫切需要研究从非结构化文本中提取结构化数据的方法，以实现基于参数的决策框架。作者提供了一个自动化的方法，从随机临床试验和索赔检测技术提取论证信息。 建议的参数挖掘系统，特别是，识别-证明有争议的片段，然后将检测到的片段分类为证据（即，论点的前提）和主张（即，（论点的结论）。作者依赖于预先存在的系统MARGOT 舒斯特 和 曼宁 （2016年） 和 提出 增强的识别临床数据中的证据和声明的MARGOT版本。该提案使用了与四种不同疾病相关的PubMed随机临床试验摘要，包括青光眼，糖尿病，乙型肝炎和高血压。从这些数据出发，一个注释数据集包含976个参数组件，分为697个证据和279索赔已被提取。使用两个不同的数据集来训练两个二元分类器：一个用于索赔检测，另一个用于证据检测。EX实验进行了三种不同的分类：（i）SSTK利用选区解析树（ii）SVM与BoW功能加权TF-IDF（iii）结合这两种方法的核机器。对模型的评估为证据和索赔检测任务提供了不同的结果，并表明结果是有希望的。Zeng等人在Zeng等人（2018）中提出了一种基于论证的基于上下文做出可解释判断的方法。必须做出决策的背景是做出最佳决策所需考虑的重要信息。情境为决策提供了一层复杂性和动态性，它允许一个决策在一个情境中是好的选择，但在另一个情境中是坏的选择。将上下文描述为决策问题的正式表示是将上下文纳入决策制定的第一步。作者使用具有上下文的决策图（DGC）来解决这个问题。DGC能够在各种上下文中表示决策和目标之间的许多联系，从而在对决策问题建模时提供了表达能力和灵活性。通过将DCG映射到基于假设的论证（ABA）框架中，并将DCG中基于语境的判断过程转化为ABA框架中可接受论证的选择过程，从而达到选择好决策的目的.Donadello等人在Donadello et al. （2019）提出建立XAI系统基于逻辑推理，使用户行为监测和说服他们进行健康的生活方式。该系统实现了一个有说服力的推理推理，追求的目标是支持用户坚持健康的饮食。Dragoni等人（2018 a）的HeLiS本体的TboX规定了健康行为原则和限制。在接收到摄入食物输入之后