英国报告放射技师的研究进展和发展趋势

放射学28（2022）881e888英国报告放射技师C. Raineya，*，T. O'Reganb，J. Matthewc，E. A. C.D. N.沃兹尼察e，f，K.- Y.楚克，S. Goodmanb，J.麦康奈尔岛休斯河邦德j，C。Malamateniouc，d，1，S.麦克法登a，1a阿尔斯特大学健康科学学院，生命与健康科学学院，海岸路，纽敦阿比，北卡罗来纳州。爱尔兰b英国伦敦米尔街普罗维登斯广场207号放射技师协会和学院c英国伦敦国王学院生物医学工程和成像科学学院，圣托马斯医院d英国伦敦大学城市健康科学学院放射学系，助产和放射学系，伦敦大学学院医院，Bloomsbury，London，UKf联合&公共卫生学院，坎特伯雷基督教堂大学，坎特伯雷，英国g英国牛津大学牛津放射肿瘤学研究所肿瘤学系h英国牛津大学医院丘吉尔医院放射治疗科NHSLeeds Teaching Hospitals，利兹，英国j阿尔斯特大学计算机学院，计算机、工程和建筑环境学院，Shore Road，Newtownabbey，N。爱尔兰我的天啊N F O文章历史：接收日期：2022年5月11日接收日期：2022年2022年6月13日接受2022年7月1日上线关键词：人工智能AI放射学教育劳动力培训数字健康临床成像A B S T R A C T简介：放射技师报告在英国是公认的做法。由于全国缺乏放射技师和放射科医生，报告中的人工智能（AI）支持可能有助于最大限度地减少未报告图像的积压。现代人工智能并没有被人类最终用户很好地理解。由于过度依赖和依赖不足，这可能会产生道德影响，并影响人们对这些系统的信任。本研究调查了报告放射技师对AI的看法，收集信息以解释他们未来如何与AI互动，并确定认为对这些系统进行适当信任所必需的功能方法：Qualtrics®调查由英国AI专家放射技师团队设计和试点。本文件报导是项统计调查的第三部分，只供填报放射技师结果：收到86份答复。受访者对AI如何做出决定充满信心（ n ¼53，62%）。不到三分之一的受访者有信心将人工智能决策传达给利益相关者。来自人工智能的确认将提高信心（n= 49，57%），不同意将使受访者寻求第二意见（n = 60，70%）。AI对图像解释的信任程度适中。系统性能数据和人工智能视觉解释将增加信任。结论：回应表明，AI将在未来对报告放射技师的决策产生重大影响。受访者对人工智能如何做出决策很有信心，但对向他人解释这一点不太有信心。信任水平可以通过可解释的人工智能解决方案来提高对实践的影响：这项调查澄清了英国报告放射技师©2022 作 者 （ S ） 。 由 Elsevier Ltd 代 表 放 射 技 师 学 院 出 版 。 这 是 CC BY 许 可 下 的 开 放 获 取 文 章（http://creativecommons.org/licenses/by/4.0/）。导言和背景NHS正面临服务需求增加和员工水平下降的巨大压力。尤其如此*通讯作者。电子邮件地址：c. ulster.ac.uk（C. Rainey）。1这些作者对这项工作做出了同样的贡献，并分享最后的作者身份。诊断放射学，其人员水平没有与服务需求同步增长。1许多临床医生已经出现倦怠和疲劳，在大流行后的医疗环境中，这可能会成为更大的问题。第一季第三集放射技师报告放射线技师报告允许以降低的成本以高精度及时报告图像。第四季第6集The Getting It Right Firsthttps://doi.org/10.1016/j.radi.2022.06.0061078-8174/©2022作者。由Elsevier Ltd代表放射技师学院出版。这是CC BY许可证下的开放获取文章（creativecommons.org/licenses/by/4.0/）。目录可在ScienceDirect射线照相杂志主页：www.elsevier.com/locate/radiC. Rainey，T. O'Regan，J. Matthew etal.放射学28（2022）881e888882《时代》（GIRFT）报告建议培训更多的报告无线电记录员，并在未来使用人工智能来支持图像解释的某些方面。7《诊断：恢复和更新》（2020）3中也有类似的建议然而，鉴于英国放射技师的平均空缺率为10.5%，8报告承认，要实现这一目标，需要培训和招聘额外的4000名放射技师。NHS在其长期计划中还促进了人工智能和先进技术在未来医疗保健中的作用。9计算机已用于图像判读多年，然而，使用先进技术的新系统现在在临床上更普遍，与早期的人类编程机器相比，能够提高性能并降低假阳性率。然而，这些系统的复杂性意味着系统过程不透明，有时甚至对开发人员也不透明。十二，十三计算机视觉计算机视觉的范式转变发生在 2012 年，当时卷积神经网络（CNN）赢得了ImageNet识别常见对象的挑战，远远超过了其下一个最接近的竞争对手。在医学成像中使用复杂的人工智能模型（如CNN）带来了一些独特的挑战，例如系统如何做出决策缺乏透明度。为了解决这一问题，人们试图解释这些系统实现诊断的方式，例如使用热图、整体系统性能、感兴趣区域识别以及对特定图像预测的信心15e19最终用户界面的格式对于放射摄影师和放射科医生尤为重要有一个合理的预期，即当AI被实施到放射科的护理路径中时，系统可以支持临床报告者和患者在护理时间和护理点之间的更多互动20在图像判读人工智能系统的有效实施存在几个潜在障碍，包括临床从业人员的信任、系统操作知识、伦理问题以及人工智能与现有基础设施的集成21e26随着技术从概念转化为临床上有用的产品，重要的是要认识到并解决这些系统最终用户的担忧和意见，这是成功采用和实施这些技术的核心越来越多的人关注临床医生作为“领域专家”参与AI系统的开发，27、28在人工智能被广泛使用之前，临床最终用户对人工智能的看法应该被理解足够的信任水平和对潜在自动化偏见的认识是文献中讨论的人工智能采用的29e31临床医生作为最终用户应该能够与AI进行有效的交互，同时保持应有的谨慎。已经提出了解释和解释AI功能的方法，以减轻对系统的过度依赖或依赖不足。15，32，33可解释的人工智能是指对系统本身的理解，因此允许最终用户理解其决策背后的机制[17]这在现代人工智能中可能是困难的，其中一些数学和统计处理是无法理解的，甚至对开发人员来说也是如此。可解释的人工智能是指可以向用户提供系统如何以人类可理解的方式做出决策的指示的方法，例如，通过射线照相图像上决策置信水平的颜色编码覆盖。15AI对临床医生决策的影响对不同医疗保健领域使用临床决策支持工具的研究发现，用户对从AI获得的信息的反应可能不同。这取决于几个因素，例如用户的经验水平和任务的复杂性过度的信任、经验水平的下降和任务复杂性的增加，增加了临床医生改变主意的可能性。29e 31虽然研究报告显示，在图像判读任务中使用人工智能工具时，其性能令人印象深刻，甚至超过人类，但34，35使用或开发的系统都不是无障碍的。不正确的自动诊断已被证明会对专家和非专家临床医生的决策产生负面影响。因此，重要的是确保所有临床医生都要保持适当的谨慎和自己的判断，并使用人工智能来帮助和增强，而不仅仅是指导决策。三十，三十二理由和目标这项调查旨在通过报告英国的放射技师来深入了解目前人工智能在图像判读中的使用情况，并确定他们目前如何与这项技术进行互动，或期望他们将来如何与这项技术进行互动。方法问卷设计和参与者根据现有文献和放射技师协会（SoR）AI工作组的意见，结合SoRAI临床成像和放射治疗指导文件的主题，设计了Qualtrics®调查。36调查的设计和报告是根据《因特网电子调查结果报告核对表》进行的。37获得伦敦大学城市研究伦理委员会的伦理许可整个调查对所有英国放射技师开放，尽管此处报告的小节仅对报告放射技师开放。调查链接在专业社交媒体（LinkedIn®/Twitter®）上和作者的专业网络上分发于二零二一年二月十二日至四月六日期间可供使用。测量仪器调查的这一部分有八个问题，特别关注放射技师报告中使用的人工智能。提供了不同的问题类型：多项选择，李克特量表和一些自由文本选项。调查工具这项调查是对12名具有不同专业背景（包括报告）并具有多年经验的放射技师进行的就调查内容的相关性、可读性和调查设计的技术方面征求了反馈意见，以确保表面和内容的有效性。计算事后Cronbach α，以确保Likert量表问题的内部一致性（α1/40.869）。数据分析数据分析在IBMSPSS®（版本23）上进行使用描述性统计报告结果统计分析C. Rainey，T. O'Regan，J. Matthew etal.放射学28（2022）881e888883¼¼¼¼¼¼¼¼¼¼¼研究变量之间的相关性。数据收集的个人的看法，因此被认为是有序或名义上的。因此，非参数检验用于分析目的。Spear-man的rho和Kendall的tau用于研究有序数据之间的任何关系。卡方似然比用于研究标称数据中的相关性，因为数据违反了使用Pearson卡方检验所需的对于只允许参与者选择一个答案的问题，结果以百分比的形式以图形表示，对于可能选择多个答案的问题，结果以计数的形式表示权重不适用于任何问题。包括误差条以表示比例的标准误差。结果在剔除空白调查和受访者不同意进行数据分析的调查后，共有411份完整的调查回应。分析中包括不完整的调查，以有助于最终结果，并承认由于个人和专业经验不同，并非所有报告放射技师都能够回答所有问题人口统计信息表1载列受访者的人口统计资料详情各专业的代表与英国放射技师人群大致成比例（诊断性放射摄影（DR）：治疗性放射摄影（TR）; 4：1）。38统计分析将临床经验年数、最高学术资格水平和当前在报告实践中使用AI的自变量与下段中给出的因变量进行比较。使用Spearman rho或Kendalltau（有序数据）和卡方Likewise比（标称数据）研究任何关系。没有发现任何变量之间的相关性测试。图像报告和使用AI作为受访者临床角色的一部分本调查部分仅对DR开放。在所有回复中，86例表示图像报告是其职责的一部分;这是一个代表性样本，因为其数量超过了目前在放射技师协会和放射技师学院（SCoR）各自的专业兴趣组注册的报告放射技师（n70），尽管承认一些报告放射技师未在SCoR注册如果不是一个报告放射技师，重新-受访者退出了调查。在其余的受访者中，只有10.5%（n= 9）目前使用人工智能作为其报告角色的一部分了解AI系统如何做出决策报告放射技师受访者被问及他们是否理解AI如何做出决定。61.6%（n 53）的受访者通过选择任何“同意”选项（“总体同意”）表示同意，29.1%（n 25）选择任何“不同意”选项（“总体不同意”）。最受欢迎的选择是“有点同意”选项（n ¼ 34，39.5%）（图。 1）。受访者大多数受访者不同意他们有信心向其他医疗保健机构解释认可决定从业人员（59.3% （n51)总体不同意; 27.9% （n 24 ）总体同意）。同样，只有29.1%的人同意他们有信心向患者和护理人员解释人工智能的决定。没有受访者表示强烈同意这两种说法（图）。2）。AI对诊断/专业意见受访者表示，来自人工智能的断言将有助于增加他们诊断的确定性（n 49，57%），而来自人工智能系统的异议将使他们感到不确定（n 29，33.7%）。大部分受访者表示，当AI不同意他们的观点时，他们会寻求第二种意见（n = 60，69.8%）（图10）。 3）。影响人工智能图像判读决策支持受访者被要求在0e 10量表（0不信任和10绝对信任），导致模式5，平均值为5.28，中位数为5（图 4）。此外，受访者还被要求从一系列功能建议中进行选择，以增加他们对临床AI系统的信任受访者可以选择所有适用的选项（图。 5）。“系统的整体性能/准确性”、“视觉解释”和“系统诊断信心的一个答复者还建议使用‘I would want to know that the system would be equally accu-rate in dismissing insigni另外两名使用“其他”输入文本的受访者函数没有添加任何建议：‘Do not不确定讨论图像报告许多受访者（n 77，89.5%）表示，他们没有将人工智能作为其报告角色的一部分然而，一项国际技术研究发现，70%的人工智能应用程序专注于11人工智能在报告和图像解释中的缓慢回升可能与人工智能采用的众多挑战有关，如引言所述，以及缺乏前瞻性研究中人工智能支持的系统准确性和性能的可靠证据由于放射科医生及放射技师短缺，1，8加上COVID-19疫情对影像服务及员工水平的影响39，40以及NHS长期计划的预期，9这些系统将有更大的整合空间，以协助诊断影像决策。这种需求，加上普通射线照相图像的可用性和相对简单性，可能意味着该领域将成为人工智能系统持续发展的目标。放射科医生的国际共识是，人工智能将有助于诊断的准确性，系统将作为第二阅读器。24，41，42与此相反，报告的放射线技师受访者认为解释应主要是人为任务;也许是由于他们的专业背景，即基于价值的放射线摄影43和人文主义护理模式，确保在获取图像期间为患者量身定制护理。二十三、四十四C. Rainey，T. O'Regan，J. Matthew etal.放射学28（2022）881e888884表1受访者诊断X线摄影术治疗X线摄影术受访者目前工作的英国地区/%英格兰56.7（n<$183）88.2（n < $67）苏格兰30（n¼97）9.2（n ¼ 7）威尔士1.9（n¼6）1.3（n ¼ 1）北爱尔兰11.1（n¼36）1.3（n ¼ 1）海峡群岛0.3（n1）0（n1）从事放射线摄影的年数/% 0e 2年22.7（n<$75）23.4（n < $18）3e 5年10.6（n<$35）16.9（n < $13）6e 10年13.9（n<$46）11.7（n < $9）11e 20岁23.0（n<$76）23.4（n < $18）>20岁27.5（n<$91）22.1（n < $17）不执业1.2（n<$4）1.3（n < $1）退休1.3（n1）1.3（n 1）年龄范围/% 18至 25岁19.3（n<$63）23.7（n < $18）26e 35岁28.4（n<$93）26.3（n < $20）36e 45岁27.2（n<$89）25.0（n < $19）46e 55岁12.5（n<$41）18.4（n < $14）56e 65岁11.3（n¼37）6.6（n ¼ 5）>65岁1.2（n<$4）0（n < $0）最高学历/% A-level 14.9（n<$48）11.8（n <$9）理科学士24.2（n¼78）35.5（n ¼ 27）PgCert 19.9（n¼64）1.3（n ¼ 1）PgDip 13.0（n¼42）6.6（n ¼ 5）理学硕士19.6（n<$63）36.8（n < $28）PhD/EdD/DProf或同等学历1.9（n¼6）3.9（n ¼ 3）其他6.5（n<$21）3.9（n < $3）临床环境/计数（受访者可选择多于一项）大学教学医院n<$195 n < $50地区综合医院n<$103 n < $19私营部门n<$12n < $2多发性创伤单元n<$30n < $0移动装置n<$4n < $0其他n<$14n < $5我不在临床环境中工作n<$25n < $4目前职位/%助理执业放射技师1.2（n<$4）0（n < $0）放射学本科生19.6（n<$63）13.2（n < $10）临床放射技师39.1（n<$126）38.2（n < $29）研究放射技师0.9（n¼3）2.6（n ¼ 2）高级执业医生15.8（n<$51）17.1（n < $13）博士研究员放射技师0.6（n<$2）0（n < $0）其他3.1（n<$10）6.6（n < $5）放射学学术：仅教学0.9（n<$3）1.3（n < $1）行业合作伙伴0.3（n<$1）1（n < $0）顾问放射技师4.3（n<$14）13.2（n < $10）临床学者/讲师：从业人员3.1（n<$10）1.3（n < $1）放射科/放射技师/放射治疗经理6.2（n¼20）6.6（n ¼ 5）退休放射技师0.9（n< $3）0（n<$0）放射学学术：教学及研究3.7（n<$12）0（n < $0）放射诊断学（受访者可选择多于一项）通用射线照相公司急诊、手术室和荧光镜检查编号：207放射治疗专科/计数（受访者可选择多于一项）乳房X线摄影n ¼32MRI编号：56CT编号：100超声编号25介入治疗n ¼44PET/CT n ¼3PET/MRIn ¼1DEXA/DXA n ¼5报告编号：63放射科经理n ¼20PACS管理员n ¼ 9教育n ¼54政策制定者/专业倡导者编号11其他（诊断）n ¼22预处理、模拟、塑形、固定n <$35治疗计划n ¼15治疗次数：54患者信息/支持/审查编号23教育家n ¼7研究编号：7管理编号：10质量保证/质量改进n ¼7DEXA/DXA临床应用n ¼0其他（治疗）n ¼7C. Rainey，T. O'Regan，J. Matthew etal.放射学28（2022）881e888885¼图1. “我理解人工智能系统是如何做出决定的”（n ¼ 86）（误差线代表比例的标准误差）。图2.“我会有信心向‘......其他健康专业人士’和‘......服务用户和护理人员’解释人工智能的决定（错误条代表比例的标准误差）。了解AI系统如何做出决策临床医生对AI的理解水平值得进一步调查。研究报告称，放射技师认为他们对现代人工智能术语几乎没有信心，临床AI技能。45e 47然而，应当指出，“自信”是一种主观感觉，而不是决定正确的可能性的指标48，即自信可能不是能力的指标。49，50本研 究 的 许 多 受 访 者 表 示 理 解 人 工 智 能 如 何 做 出 决 策 （ n 53 ，61.6%）。这可能是由于参与调查的这一部分的人具有较高的学术成就水平;在本调查的第一部分中发现了相关性。这些相互矛盾的报告描绘了一幅令人困惑的画面，任何缺乏理解都可能成为在临床部门实施和使用人工智能的障碍。23.只要医疗成像中的人工智能实施在不同部门、模式和功能之间是异质的，结果的背景性质就将持续存在。51解释AI决策尽管表示了解人工智能，但只有不到30.0%的受访者认为他们有信心向医疗专业人员或患者/护理人员解释人工智能决策。了解AI如何做出决定可能会使临床医生更容易向其他人解释该决定，尽管由于复杂性降低，更透明的模型通常表现出更差的性能，因此需要平衡。三十二，五十二图3. AI反馈对报告放射技师决策的潜在影响（n ¼ 86）（误差条表示比例的标准误差）。C. Rainey，T. O'Regan，J. Matthew etal.放射学28（2022）881e888886¼¼¼¼图4. 在0 e 10的范围内，您认为AI系统用于图像解释决策支持的可信度如何（0 ¼不信任，10 ¼绝对信任）（n ¼ 86）（误差线表示比例的标准误差）。AI对诊断/专业意见必须了解人工智能将如何影响人类决策，以确保用户安全部署系统。自动化偏差（AB）是一种潜在风险，当过度依赖决策支持工具时，会导致用户从正确的诊断变为错误的诊断。Bond等人（2018）31和Goddard等人（2014）30分别报告了AB对临床医生在ECG读取和处方中使用AI的经验水平的影响，并发现经验丰富的临床医生不太可能改变最初的决定，但同样容易受到AB的影响在这项研究中，受访者表示，人工智能系统的同意将增加他们解释的确定性（n 49，57.0%），而人工智能的不同意将导致他们寻求第二意见（n 60，69.8%）。我们可能认为这些是保守的发现，因为文献中的证据表明，作为经验丰富的临床医生，报告放射技师改变主意的可能性低于经验较少的临床医生。影响人工智能图像判读决策支持缺乏信任被认为是在临床环境中实施AI的潜在障碍，28，33，53尽管过度信任还可能导致临床医生改变他们最初决定的想法的可能性增加。30需要有足够的信任水平，以确保最终用户的期望得到有效利用和管理。这项调查的受访者报告了十分之五的平均信任，表明既不缺乏也不过度信任。这与一项调查放射科医生、IT专家和行业对人工智能态度的研究相反，只有四分之一的受访者认为他们可以信任人工智能系统的结果53，但这可能与更复杂的图像的解释有关，比如来自横截面成像（MRI和CT）的图像。这项调查的受访者被问及人工智能系统的哪些功能可以提供可信度保证最受欢迎的在人工智能中增加信任的两种主要方法已经在文献中提出，即（i）模型可解释性和（ii）可解释性。可解释性是指[17]由于系统的复杂性，现代人工智能系统的可解释性可能是困难的13，15视觉解释，例如颜色编码覆盖，已被提议作为解释系统在决策时的重点的手段，15，16对该调查的答复支持了这一愿望然而，建议谨慎使用可解释的AI，如果预测可能不正确，解释可能不正确，导致对系统的过度信任19可解释性怀疑论者图5. 哪些功能可能有助于增强您对诊断图像解释AI系统的信任？（每个答复者允许多个答复C. Rainey，T. O'Regan，J. Matthew etal.放射学28（2022）881e888887认为该系统的性能可能足以获得最终用户33，54本次调查的受访者可能同意这种观点，表明他们最希望提供整体绩效数据。然而，业绩指标也可能有偏差，因为人为错误也可能渗入这些指标，这取决于这些衡量的参考水平。限制本次调查的受访者是通过方便抽样招募的，因此可能不是英国放射技师人群的真实反映。这种抽样方法已被用于该领域的其他可比研究，并与之进行了比较 44 ， 46（Aesthiaid等人，2020; Ryan等人，2021年）。目前有70名SoR成员注册使用在线网络空间报告放射技师，尽管估计报告放射技师的数量要高得多，有264名英国报告放射技师回应了Milner等人的调查（2016）。55对统计调查这部分作出回应的放射技师共有86名。因此，结果可能不能代表整个目标人群，但是由于缺乏关于英国执业放射技师报告数量的明确数据，因此难以确定。需要进一步的调查来量化自动化偏差和对所有经验水平的放射技师的信任，以提供有针对性的干预建议。焦点小组或访谈可以通过归纳法获得更丰富的感知数据。调查问题由英国无线电成像AI专家团队开发，以获取与本研究重点相关的具体信息文献中没有经过验证的量表来最好地捕捉目标人群的看法。结论虽然许多报告放射技师目前没有使用人工智能作为其报告角色的一部分，但这可能在不久的将来发生变化。回应这项调查的放射线技师有信心了解人工智能系统如何做出决定，但对向患者和其他医护人员解释这一过程不太有信心。这可能说明，自信并不等同于能力，因此建议对劳动力进行教育，并提高系统的透明度。随着人工智能的使用越来越普遍，应考虑患者和服务用户对人工智能在放射影像判读中的作用的期望。开发人员应该与临床医生接触，以确保他们拥有建立适当信任所需的信息了解临床医生如何与AI系统交互可能会促进未来负责任地使用临床有用的AI。利息负债表没有。确认通讯作者（CR）很高兴获得了放射技师学院行业合作计划研究奖CoRIPS 183的资助。引用1. RCR。2020年英国临床放射学劳动力普查。2020.可查阅：https：//www.rcr.ac.uk/system/files/publication/field_publication_files/clinical-radiology-uk-workforce-census-2020-report.pdf[2021年2月20日访问]。2. 放 射 技 师 协 会 放 射 学 报 告 将 患 者 置 于 新 冠 肺 炎 后 服 务 的 中 心 。 可 登 录 ：https://www.sor.org/news/reporting/radiology-report-puts-patients-at-the-centre-of-th; 2020 [2022年4月4日3. 国家 卫生服务 。 诊断 ：恢复 和更新。 网址： https://www.england.nhs.uk/wp-content/uploads/2020/10/BM2025Pu-item-5-diagnostics-recovery-and-renewal.pdf; 2020年[2022年3月28日访问]。4. 放大图片作者：A.放射技师领导的急诊科转诊即时报告服务是一个具有成本效益的倡议？放射学2013;19（1）：23e 7。https://doi.org/10.1016/j.radi.2012.11.002。5. Bajre MK ，Pennington M ， Woznitza N，Beardmore C ，Radhakrishnan M ，Harris R等，扩大放射技师在报告疑似肺癌中的作用：使用决策树模型的成本效益分析。放射学2017年11月;23（4）：273e8。https://doi.org/10.1016/j.radi.2017.07.011。6. Thom SE.先进的放射摄影实践是否有益于医疗保健系统？tem ？ 文 献 综 述 。 放 射 学 2018 年 2 月 ;24 （ 1 ） ： 84e9 。https://doi.org/10.1016/j.radi.2017.08.002.7. Halliday K，Maskell G，Beeley l，Quick E. 放射学：GIRFT方案国家专科报告。可查阅：https://www.gettingitrightrsttime.co.uk/wp-content/uploads/2020/11/GIRFT-radiology-report.pdf; 2020 [访问日期：2022年2月20日]。8. 放 射 技 师 协 会 。 放 射 学 普 查 突 出 了 员 工 在 劳 动 力 短 缺 中 的 勇 敢 。 可 登 录 ：https://www.sor.org/news/college-of-radiographers/radiography-census-highlights-staff-bravery-amid-w; 2021[2022年2月20日访问]。9. NHS长期计划2019.网址：https://www.longtermplan.nhs.uk/[2020年11月访问]。10. Adams SJ，Henderson RD，Yi X，Babyn P.用于X射线图像分析的人工智能解决方案。CanAsphaltRadiolJ2021;72（1）：60e72.https://doi.org/10.1177/0846537120941671。11. 放大图片作者：John M. 人工智能（AI）在诊断放射学中的应用：技术研究。Eur Radiol2020;31（4）. doi.org/10.1007/s00330-020-07230-9.12. Shen D，Wu G，Heung-Il Suk. 医学图像分析中的深度学习。生物医学工程年度评论。https://doi.org/10.1146/annurev-bioeng-071516-044442; 2017.13. 埃 里 克 森 BJ 。 第 4 章 ： 成 像 中 的 深 度 学 习 和 机 器 学 习 ： 基 本 原 理 。 在 ：Ranschaert，编辑. 医学影像中的人工智能。施普林格自然瑞士; 2019. p.39e 46.14. Krizhevsky A，Sutskever I，Hinton GE.使用深度卷积神经网络进行ImageNet分类。第25届神经信息处理系统国际会议论文集，2001年。Red Hook，NY，USA：CurranAssociates Inc.; 2012. p.1097年和105年。15. Kumar D，Wong A，Taylor GW. 解释无法解释的：理解深度神经网络的类增强注意力反应（CLEAR）方法。2018.网址：https://ieeexplore.ieee.org/Xplore/home.jsp[2019年8月16. ReyesM ， Meier R ， Pereira S ， Silva CA ， Dahlweid F-M ， von Tengg-Kobligk H ， et al. On the interpretability of arti ficial intelligence in radiology ：challengesandopportunities.放射学：人工智能;2020年。https://doi.org/10.1148/ryai.2020190043.17. 杨F，黄Z，Scholtz J，Arendt DL.视觉解释如何培养最终用户对机器学习的适当信任？在 ： 第 25 届 智 能 用 户 界 面 国 际 会 议 论 文 集 ; 2020 年 。 第 189 和201 页 。doi.org/10.1145/3377325.3377480.18. Dong F，She R，Cui C，Shi S，Hu X，Zeng J，et al. One step further intothe blackbox ： a pilot study of how to build more confidence around an AI-based decision system of breast nodule assessment in 2D ultrasound. EurRadiol2021; 31（7）：4991 e 5000. https://doi.org/10.1007/s00330-020-07561-7。19. Ghassemi M，Oakden-Rayner L，Beam AL.当前方法的虚假希望在医疗保健中可以解释的人工智能。 柳叶刀数字健康2021;3（11）：e745e 50. https：//doi.org/10.1016/S2589-7500（21）00208-9.20. 英国健康教育NHS的Topol评论。2019.网址：topol.hee.nhs.uk/[2021年5月5日查阅]。21. Strohm L，Hehakaya C，Ranschaert ER，Boon WPC，Moors EHM. 人工智能（AI）在放射学中的应用：阻碍和促进因素。Eur Radiol2020;30：5525e 32.https://doi.org/10.1007/s00330-020-06946-y. 2020年。22. Sutton RT ， Pincock D ， Baumgart DC ， Sadowski DC ， Fedorak RN ，Kroeker KI.临床决策支持系统概述：收益，风险和成功策略npj数字医学2020;3（17）. https://doi.org/10.1038/s41746-020-0221-y.23. Botwe BO，Antwi WK，Arkoh S，Awanjedu TN.放射技师对人工智能融入诊断成像的观点：加纳研究。医学放射科学杂志2021。https://doi.org//jmrs.460.24. Huisman M，Ranschaert E，Parker W，Mastrodicasa D，Koci M，Pinto deSantos D，等.对1,041名放射科医生和放射科进行的放射学AI国际调查C. Rainey，T. O'Regan，J. Matthew etal.放射学28（2022）881e888888居 民 第 2 部 分 ： 期 望 、 实 施 障 碍 和 教 育 。 欧 洲 放 射 学 ; 2021 年 。https://doi.org/10.1007/s00330-021-07782-4。25. 吴晓松，李晓松.放射学界如何讨论人工智能对他们工作的好处和局限性？系统的话语分析。第136章. https://doi.org/10.1016/j.ejrad.2021.109566。26. RCR 。 将 人 工 智 能 与 放 射 学 报 告 工 作 流 程 （ RIS 和 PACS ） 集 成 。 可 查 阅 ：https://www.rcr.ac.uk/system/files/publication/field_publication_files/bfcr212_integrating-ai-with-ris-pacs.pdf; 2021 [于2022年2月20日27. 作者：French J，Chen L.为人工智能做准备：医学成像和放射治疗专业的系统级影响。医学影像辐射杂志 Sci 2019; 50（4）. https://doi.org/10.1016/j.jmir.2019.09.002。28. Quinn TP，Senadeera M，Jacobs S，Coghlan S，Le V.信任和医疗AI：我们面临的挑战以及克服这些挑战所需的专业知识。J Am Med Inf Asphalt2021;28（4）.https://doi.org/10.1093/jamia/ocaa268。29. 德莱塞特尔，宾德.医生重视决策支持吗看看效果的 决 策 支 持 系 统 。 ArtifIntellMed2005;33 （ 1 ） ： 25e30.https://doi.org/10.1016/j.artmed.2004.07.007。30. Goddard K，Roudsari A，Wyatt JC.自动化偏差：评估影响因素的经验结果。Int JMed Inf2014; 83（5）：368e 75。31. [10] BondRR，Novotny T，Andrsova I，Koc L，Sisakova M，Finlay D，et al.医学中的自动化偏差：读心电图时自动化诊断对解释器准确性和不确定性的影响JElectrocardiol2018;51（6）：S6e11。https://doi.org/10.1016/j.jelectrocard.2018.08.007。32. Geis JR，Brady A，Wu CC，Spencer J，Ranshaert E，Jaremko JL等。放射学中人工智能的伦理学：欧洲和北美多社会联合声明的摘要。J Am Coll Radiol2019; 293（2）：1e 6.33. Kitamura FC，Marques O.人工智能模型的可信度放射学和解释的作用。美国放射学院2021年。https://doi.org/10.1016/j.jacr.2021.02.008。34. Murphy A，Liszewski B.人工智能和医疗放射专业：我们的倡导必须如何告知未来的实践。J Med Imag Radiat Sci2019; 50（4）：S15e 9。35. McKinneySM ， Sieniek M ， Godbole V ， Godwin J ， Antropova N ， AshrafianH 等 人 ， 乳 腺 癌 筛 查 AI 系 统 的 国 际 评 估 。 Nature2020;577 ： 89e 94.https://doi.org/10.1038/s41586-019-1799-6。36. Malamateniou C，McFadden S，McQuinlan Y，England A，Woznitza N，Goldsworthy S，et al.临床成像和放射治疗专业人员指南，由放射技师协会AI工作组放射学总结。可查阅：https://www.sor.org/learning-advice/professional-body-guidance-and-publications/documents-and-public