医学教育中基于案例的人工智能实践和伦理问题

医学中的人工智能135（2023）102458研究论文一个更聪明的视角：从AI案例中作者：Laura ArbelaezOssa，*，Michael Rost a，Giorgia Lorenzini a，David M.肖a，bBernice Simone Elgera，ca巴塞尔大学生物医学伦理研究所，瑞士b荷兰马斯特里赫特大学护理和公共卫生研究所c瑞士日内瓦大学法医中心A R T I C L EI N FO保留字：医学教育人工智能案例学习批判性思维伦理学A B标准人工智能（AI）仅部分（或根本没有）融入医学教育，导致人们越来越关注如何培训医疗从业人员来应对AI引入所带来的变化。将课程和其他技术信息编程到医疗保健课程中，已被提出作为支持医疗保健人员使用人工智能或其他未来技术的解决方案。然而，整合计算机科学知识的这些核心要素可能无法满足观察到的需求，即学生将受益于在直接应用领域获得人工智能的实践经验。因此，本文提出了一种基于案例学习的动态方法，该方法利用AI目前在临床实践中使用的场景作为示例。这种方法将有助于学生对技术方面的理解。以人工智能为例的基于案例的学习提供了额外的好处：（1）它允许医生将他们的思维过程与人工智能的建议进行比较，并批判性地反思人工智能和临床实践的假设和偏见;（2）它激励医生讨论和解决技术固有的伦理问题以及当前临床实践中已经存在的伦理问题;（3）透过科技人员，多学科专家及医护专业人员之间的讨论，为促进跨学科合作奠定基础。拟议的知识转移从人工智能作为技术重点到人工智能作为基于案例的学习的例子，旨在鼓励对教育需求的不同观点。技术教育不需要与其他基本临床技能竞争，因为它可以作为支持这些技能的基础，从而带来更好的医学教育和实践，最终使患者受益。1. 介绍医疗领域中新技术的引入迫使医生迅速改变他们的实践，这是由于关于在临床中使用这些技术的新的社会和法规需求。人工智能（AI）的发展创造了许多热情的主张，因为它承诺支持患者的护理并改善医疗保健。机器学习（ML）的AI子领域使用数学算法和统计技术来识别数据模式并获得预测，并被广泛视为分析复杂健康数据的潜在有效技术[1]。其他应用，如流行病建模和早期症状识别，随后可用于早期预警系统，并促进快速缓解流行病的策略[2]。诊断和治疗也是可能的应用[3]。因此，人工智能可能会影响个人健康和卫生系统。人工智能在医学上可能有许多潜在的应用，尽管也有关于其安全性的担忧和问题，特别是在使用难以理解的ML模型进行临床决策时。ML，特别是那些具有多个决策层的算法，如神经网络，对人类的理解是具有挑战性的，因为底层的解释因素可能隐藏在模型中[3，4]。然而，接受人工智能潜在的临床效益最终将转化为在临床实践中部署和广泛实施人工智能的前提，提出了如何培训医生使用人工智能完成工作的问题。人类专家有望保留他们的代理权 并且具有理解--至少在上下文中--在护理过程中使用该技术的能力和危险的手段。然而，即使人工智能的可解释性挑战得到解决，安全地与人工智能一起工作仍然是一个绊脚石。即使是最“可解释”的人工智能应用的日益普及* 通讯作者。电子邮件地址：laura. unibas.ch（洛杉矶）Ossa）。https://doi.org/10.1016/j.artmed.2022.102458接收日期：2021年10月29日;接收日期：2022年9月16日;接受日期：2022年11月18日2022年11月23日在线提供0933-3657/© 2022作者。由爱思唯尔公司出版这是CC BY许可下的开放获取文章（http://creativecommons.org/licenses/by/4.0/）。可在ScienceDirect上获得目录列表人工智能在医学中的应用期刊主页：www.elsevier.com/locate/artmed洛杉矶Ossa等人医学中的人工智能135（2023）1024582增加了改革和调整教育模式的压力，以培训医生应对技术带来的挑战和变化。本文首先分析了当前人工智能医学教育的范式，并质疑这些实践是否符合已确定的需求。其次，我们提出了基于案例学习的动态解释，利用现有的临床AI应用程序/场景作为学生的例子（以下简称：CBL-AI）。本文提供了关于为什么以及如何使用CBL-AI的理论依据，同时也提供了鼓励学生反思，道德思维和跨学科合作机会的好处。2. 重新解读当前AI的医学教育范式人们越来越关注医疗保健专业人员如何获得技术和人工智能知识，因为任何技术产生的变化都尚未融入医学教育的教学和学习中。目前，在医学系中纳入人工智能课程正在辩论中。有两个原因可能起作用：医生的教育传统上侧重于临床工作，而不是技术，医学课程可能已经被基础科学和临床知识的教学所淹没。一些学者建议在医学院正式教授人工智能，包括编程语言、数学建模和一般技术概念[5，6]。在欧洲，试点研究表明，在短短两天内向护士和医生教授计算机编程是可行的[7，8]。事实上，关于如何编程的实践能力可以通过打破先前持有的观念，减轻恐惧并增加他们与技术合作的意愿而使医学生受益[7，8]。然而，在对德国医学课程的全面审查许多（2021年），机构最常提到的需求是获得人工智能的实践经验，例如了解人工智能的应用领域及其对工作环境和社会的影响[9]。尽管如此，大多数机构只提供关于人工智能基础的课外或选修教育。因此，有可能质疑这些提供人工智能基础知识的教育方法是否足以满足机构观察到的实际需求。医学教育在考虑在医学课程中增加技术知识时应谨慎。增加编程知识或专注于技术概念可能会将注意力放在理论原则上。 人工智能知识和临床知识之间的严格分离可能无法完成使用人工智能完成日常医疗工作所需的能力教学。一个重要组成部分 能力导向的重点可能需要注重实际解决问题的技能，即，学习计算思维。计算思维是一种认知技能，它先于并超越了编写程序代码。这是一种分析和方法论的方法，使学生能够通过处理信息并将问题划分为可解决的部分来解决挑战，类似于计算机的工作方式。因此，它包括了解哪些问题可以并且应该用AI解决，以及如何制定和分解这些问题以供机器理解的知识。例如，通过为计算机创建指令，评估技术的局限性，评估解决方案的性能，并预测人机交互将如何工作[10]。计算思维需要 理解 的 作为基础-这些假设是人工智能的基础，包括理解人工智能如何解决问题。作为回应，世界范围内的教育系统已经在学校一级整合了计算思维课程(e.g.、爱沙尼亚，以色列，芬兰，美国和英国），旨在支持学生对技术的分析和批判性思维[10]（表1）。计算思维是一种超越任何特定编程语言的基本技能，通常会使医生和人们受益，特别是随着人工智能在日常环境中的使用越来越多，需要每个人评估使用技术的能力，好处和潜在问题。例如，月经跟踪应用程序可以利用人工智能来预测月经和生育窗口。然而，这一预测伴随着它所依赖的警告：提供准确的信息，月经周期的规律性以及生活事件的背景知识。假设一个女人使用一个应用程序进行计划生育（避免在生育窗口性交那样的话表1例如，在英国国家学校课程计算教育中实施计算思维[11]。计算思维的关键一般步骤：• 分解• 模式识别• 模式抽象• 算法设计例如英国的国家课程：• 了解什么算法，它们是如何实现的，程序通过遵循精确和明确的指令来• 创建和调试简单程序• 使用逻辑推理来预测简单程序• 有目的地使用技术来创建、组织、存储、操作和检索数字内容• 认识到信息技术在学校• 安全、尊重、负责任和安全地• 设计，编写和调试程序，完成特定的目标• 把问题分解成更小的部分• 在程序• 使用逻辑推理来解释一些简单的算法是如何工作的，并检测和纠正错误• 了解计算机网络，包括互联网• 有效地使用搜索技术，欣赏结果的选择方式，并在评估数字内容• 设计，使用和评估模拟现实世界问题和物理系统的状态和行为的计算抽象• 理解反映计算思维的几个关键算法（例如，排序和搜索算法）• 理解简单的布尔逻辑• 理解数字如何用二进制• 了解构成计算机系统的硬件和软件组件• 理解指令和数据是如何在计算机系统中存储和执行的• 发展他们在计算机科学、数字媒体和信息技术• 了解技术变化如何影响安全，包括保护其在线隐私和身份的新方法，以及如何报告一系列问题1有各种各样的资源来教授计算思维，从模式分解或分解活动到调试。国际教育技术协会或数字技术中心提供了几种教授计算思维的资源（ 网址：https：//learn.iste.org/d2l/lor/search/search_results.d2l? ou = 6606 &lrepos = 1006 和https网址：www.digitaltechnologieshub.edu.au/search#/site-search? pageNumber =1 &keyword = GoogleCT）洛杉矶Ossa等人医学中的人工智能135（2023）1024583了解这些估计值不可能100%准确变得至关重要，因为它们还需要在该人的背景下进行预防。当一个人理解了机器的能力、适用性、约束以及它们行为背后的背景时，就更容易现实地评估任何技术的能力。因此，计算思维成为培养对我们日常使用的技术的此外，它有助于人们对机器的性能和技术能力有着务实的期望，避免被“炒作”或“一厢情愿”所迷惑然而，医生有特殊的需要学习如何直接使用人工智能，临床背景。计算思维在临床环境中的适用性将这些技能转化为医学背景需要医生批判性地剖析人工智能解决方案，避免对技术概念的被动和脱节的理解，这仍然允许他们继续专注于患者护理（表2）。根据2021年发表的文献综述，学术文献中存在医生AI不足的共识理解和的 一移位从 “知识 收购“，“知识 管理和沟通“可能 被 所需克服理解AI的需要[12]。这种转变要求医生不再关注人工智能知识，而是从技术术语和临床意义上培养处理人工智能的技能。从技术上讲，输入数据直接影响输出，这反映在座谈会上，主义数据/输入的错误可能会误导输出[13]。及其临床意义 算法应该用相关的临床输入进行训练，并为健康场景提供合理的输出。因此，有必要调整目前的医学教学模式，以建立技术和临床知识之间的联系。 转变表2通 过 使 用 CBL-AI 的 学 习 机 会 的 例 子 。 青 光 眼 样 本 来 自 Raghavendra 等 人（2018）[16]。来自Obermeyer等人（2019）[17]的算法中的种族偏见示例。教学模式包括引入动态教学策略，支持和指导学习者掌握与人工智能合作所需的技能，同时也是具有良好医疗技能的医生，对医疗保健的发展产生积极影响，并对临床实践进行反思，评估和批判性思考。3. 改变视角：以AI为例的案例学习学习理论认为，学生学习新的知识和技能时，最有效的应用背景下，当材料是立即有用的[14]。因此，提出了如何在临床环境中直接向学生教授人工智能的问题，并允许他们整合技术和临床知识。利用基于案例的学习（CBL）可能是答案。CBL是一种成熟的教学方法，利用实例（称为CBL通过对具体情境的分析，使学生从获取知识转向寻求意义从这个意义上说，CBL适用于人工智能教育需要研究AI目前在临床实践中使用的场景作为示例（CBL-AI）。该应用程序将医生暴露于人工智能的各个组成部分，并构建一个框架来探索影响临床实践和人工智能的相关主题。因此，人工智能不需要被视为一种竞争性的教育需求，而可以被视为一种教育资源。此外，使用CBL-AI可以成为学生转向基于案例的推理（CBR）的基础，并将他们从CBL-AI中学到的知识应用于新的体验。虽然CBL是一种医学教育方法，其中一个一种认知过程，将旧经验的推理应用于解决新问题或情况[18]。通过识别问题之间的共性，学生可以适应新的要求和理性的经验- 对临床实践有益的技能。例如，学生可以理解使用算法的相关临床特征会带来更好的结果，并将这些知识应用于另一种算法的讨论中，同时分析其他CBL-AI或在特征工程中为AI开发人员提供建议（图1）。①的人。此外，CBL-AI可以提供整合技术的机会，实际存在的人工智能场景/应用示例细节突出临床实践AI的技术概念基于图像识别的青光眼诊断人工智能系统基于1426幅眼底图像训练的深度卷积神经网络诊断青光眼青光眼的定义，流行病学，眼睛的解剖结构，青光眼的危险因素，诊断标准图像中的模式识别，深度卷积神经网络的特征，图像识别的局限性，特异性，灵敏度人工智能系统预测患者的健康需求并相应风险预测算法设计，用于根据历史患者数据预测医疗保健需求。目标：有针对性地采取政策干预措施，并将更多资源分配给最需要保健的人结果：实际上，风险的算法预测是健康成本的预测。这导致了一种偏见，即低估了黑人患者的需求，因为他们系统性地获得的护理较少，其次是成本共病和风险、健康差异和健康风险评分预测模型、偏置机制分析、特征选择的重要性和问题表述与课程的其他方面的概念。 的权限与人工智能有效合作所需的时间通常与履行医生角色的其他核心方面所需的时间重叠[6]。人工智能及其在临床实践中的应用是学习的促进者关于人工智能解释重要性的讨论可以鼓励学习技术挑战和医患沟通的基本基础。例如，检查人工智能提供的解释的质量和类型可以证明医生的解释对于患者支持他们积极和自主参与临床决策的重要性。从这个角度来看，CBL-AI作为一种动态方法论，成为学习其他基本医疗技能的学习场所。4. 更聪明的视角：实施AI教育和支持医疗技能学术文献强调人工智能可能是医生的补充或工具，而不是完全替代。这同样适用于医学教育，因为人工智能不需要取代其他模块。人工智能可以提供一个有价值的和相关的机会，成为医生学习和为他们目前的临床实践的工具-一个新的医学教育模式与人工智能，而不是医学教育的人工智能。在下面的部分中，我们将介绍如何利用CBL-AI来支持医生三项重要技能的发展：反思和批判性思维，伦理思维和跨学科合作。然而，这并不意味着是一个详尽的列表;相反，它旨在作为三种技能的快照，这些技能将从AI学习中受益最多（最容易）。洛杉矶Ossa等人医学中的人工智能135（2023）1024584Fig. 1. CBL-AI到CBR使用败血症算法作为示例。脓毒症是一种复杂的临床病症，是全球发病率和死亡率的主要原因之一。杜克健康研究所创新开发了一种算法“脓毒症观察”，用于决策支持，以帮助早期发现脓毒症并提高治疗建议的依从性[19]。在这种情况下，创建者确定了作为脓毒症指标的临床相关特征，但确认实践中使用的其他常用临床风险评分相比之下表现更差[19，20]。医学生可以将脓毒症的临床知识从讨论ML的技术知识，并将其理解应用于进一步的临床和ML情况。4.1. 镜子：反思与批判性思维医学教育中的反思试图不专注于解决手头的临床问题，而是批判性地看待构建对问题的初步理解的基本概念框架[22]。 它是一个知识的来源，让医生获得洞察他们的假设、信念、态度和行为。它还可以帮助他们“检查和批判现代医学实践的基本假设”[23]。因此，它的基本功能是帮助医生看到他们的做法的缺点以及其他人的做法-包括人工智能-保持道德行为，并质疑医疗保健系统中的标准做法对人工智能行为的过度担忧促使人们制定了避免错误和偏见的指导方针[24]。然而，从技术上讲，一个表现良好的人工智能可以反映出不完美的现实世界，其中包括偏见，错误和知识差距[25]。从电子健康记录（EHR）中学习的AI算法可能不太可能建议对老年女性进行心脏缺血测试，因为考虑到她们的症状不是心肌梗死的典型症状[25]。在人工智能的开发和实施过程中，无错误建议的可操作性是有帮助的;然而，反思和分析这些问题的存在可能会带来学习机会。即使有证据概念AI，从其发现或局限性中学习的机会是广泛存在的。使用CBL-AI来反思AI行为可以通 过发 现过 去不 正确 的临 床假 设， 发现 新 的医 学相关性，并帮助 承认AI 的局限性 ，现代医学[26]。例如，有一种假设认为，情绪压力等外部因素会导致黑人患者膝关节疼痛的严重程度更高ML能够识别以前被忽视的与更严重的膝关节疼痛相关的X线检查结果，这可能会推翻可能错误的假设[27]。CBL-AI可以集中讨论膝关节疼痛的病因，临床管理以及AI和医生如何容易受到偏见的影响。利用这些知识并扩展到CBR，使学生能够考虑其他医学应用中的知识差距，并鼓励医生质疑和反思他们的临床假设得到客观、可靠和可复制的证据的支持（或不支持）。CBL-AI鼓励反思，医生可以将他们的思维过程与AI的解决方案进行比较，并可能破译和评估指导临床决策的影响，不确定性，偏见和幻想。通过CBL-AI研究的AI输出（或错误）可以帮助解码在临床实践中影响决策的社会结构，例如关于性别和种族特征的主观想法。如果临床实践中也存在错误和偏见，则需要反思，例如，经过培训以帮助诊断精神分裂症的人工智能解决方案可能会对非裔美国人的精神分裂症过度诊断产生偏见相比之下，医生可以使用ML算法准确预测心肌梗死后的死亡风险，以反映他们的偏见，支持为女性提供早期治疗，并降低其中较高的死亡率[29]。人工智能社区倾向于性能、泛化等价值观，这意味着医生将被要求反思和质疑人工智能是否满足临床需求，并考虑任何负面影响。医生还将被要求反思和质疑围绕技术提出的主张，以检测人工智能的能力是否像看起来那样好。利用CBL-AI可以促进反思，以确定AI是否是关键解决特定临床问题所必需的。因此，医生将能够更好地决定何时以及如何将人工智能整合到他们的实践中。如果不与普及医疗保健相结合，人工智能解决方案可能毫无用处。人工智能的发展可能会将经济资源从可能通过公共卫生战略更有效地解决4.2. 中心舞台：伦理思考人们普遍认为，道德教育是培训医疗保健专业人员的基础，因为他们将不可避免地遇到要求他们从临床和道德角度判断其决定的情况[31，32]。在欧洲，研究人员发现（2007年），在道德教学中存在很大的差异，只有有限的时间用于学习道德概念[32]。在瑞士，洛杉矶Ossa等人医学中的人工智能135（2023）1024585医学伦理学是所有培训课程的一部分，但各学院在范围、学习内容和教学方法上存在差异[33]。由于将伦理学融入医学课程的困难，学生可能会感到没有准备好处理伦理概念和讨论。例如，德国医学生往往对处理与同意有关的复杂伦理问题感到措手不及[31，34]。在美国，2012年的一项调查显示，医生并不总是对患者开放或诚实;例如，并非所有医生都完全同意披露所有重大医疗错误（34%）或充分告知患者利益和风险（11%）[35]。从这个角度来看，人工智能可能会带来道德挑战，或者加剧现有的挑战。不可否认的是，人工智能可能会出现错误、偏见、数据安全漏洞或滥用，这些都可能给患者带来风险。即使在功能良好的人工智能中，解释其结果所涉及的复杂性也可能导致家长式行为，并危及医生和患者的自主权。因此，人工智能要求医生在更具挑战性的环境中执行和维护道德原则。例如，知情同意要求医生考虑患者的意愿，并就临床旅程进行公开和诚实的沟通参与人工智能挑战医生做所有这一切，同时也传达使用复杂技术的后果。使用CBL-AI可以将道德行为的讨论带到中心舞台，因为AI的引入可能部分地代表了医疗实践中已经存在的道德挑战。例如，考虑为乳腺癌筛查开发的人工智能：算法将具有阈值，用于乳腺癌的概率何时需要召回以及患者何时不必返回进行进一步测试[38]。CBL-AI可以鼓励学生质疑这些阈值是否存在于临床实践中，以及筛查测试是否可以改善结果并使患者受益。因此，关注益处（筛查试验何时对患者有益？）尊重病人的自主权（病人对可接受风险的价值观是否被纳入临床决策？）[38、39]。人工智能提出的核心伦理问题可能也应该是在目前的医疗实践中，在应用CBL-AI时，学生们理解AI可能是新衣服上的老问题;无论有没有AI，都应该始终存在满意的同意或通过共同决策培养信任。从更广泛的意义上讲，它向学生强调了道德原则的重要性及其实际考虑。此外，CBL-AI有助于学生识别这些伦理问题何时出现在他们的临床实践中。例如，人工智能提高了知情同意意味着什么的难度，尽管知情同意的参数，设置和后果仍然存在。因此，在评估人工智能的伦理影响时，同样的教学重要性也应该用于评估临床实践的伦理方面。CBL-AI可以成为实现目标的盟友 伦理思想的教育。4.3. 桥梁：跨学科合作工程师、医生、数据科学家、伦理学家和律师等职业可以也应该参与开发医疗人工智能。虽然只有14%的医疗初创企业认为医生的参与在设计阶段至关重要[40]，但医生可以提供很多东西，因为他们可以了解临床旅程的背景并帮助关注患者的选择[41]。因此，医生需要的一个基本能力是在专业界限内和跨专业界限以及临床实践之外进行合作的能力。然而，协作是复杂的，并且由于初级和二级护理医生之间的分散护理，在患者护理方面的合作已经存在挑战。合作的障碍包括缺乏尊重、角色和责任不明确、缺乏相互了解和理解以及沟通不完整[42]。协作带来了跨越专业界限的额外挑战，因为每个团体（例如，医生和工程师）发展其科学方法，沟通结构和筒仓能力[43]。跨专业教育是一种支持医生合作技能的教学方法。来自不同专业课程的学生在特定时期共同学习，以加强协作，团队合作并最终改善患者护理[44]。传统上，跨专业教育一直应用于医疗保健专业。然而，如果应用于人工智能，将CBL-AI用于这种类型的教育的机会可能是人工智能开发团队和医生之间达成共同理解的一步。因此，CBL-AI将是一个合适的工具，可以教育，促进并最终创建跨学科合作，同时仍然为学习以患者为中心的护理和AI技术结构的重要方面提供基础。此外，CBL-AI将成为医生发展和提高协作技能的一个实际例子，并在医生、工程师、患者和技术之间建立明确的合作关系[45]。 从医生作为医学知识的守门人或工程师作为人工智能知识的守门人转变为以患者为中心和最重要实体的多方合作之旅。一个运作良好的团队可能比一个不太可能整合大量工程知识的“万事通”个体更有价值数据、信息科学和医学。最后，与AI团队有效合作所需的技能（例如，沟通、协调、合作、自信、自主、相互信任和尊重）经常与实现临床实践的其他核心方面所需的那些重叠，获得它们将对患者的护理产生积极影响。德国海德堡大学提供了一门关于医学AI的跨学科课程，计算机科学和医学专业的学生一起解决科学问题。5. 结论本文的目的是鼓励读者从不同的角度考虑，将人工智能视为一种教育资源，而不仅仅是一种教育需求。强调使用CBL-AI将临床和技术知识相互联系，可以证明是教授学生基本临床和技术技能的宝贵资源。医生可以通过人工智能探索与临床实践相关的主题;例如，将对人工智能可理解性的担忧转化为对向患者解释临床决策和支持共享决策的重要性的反思。此外，CBL-AI可以积极影响三项基本技能：批判性反思，道德思维和跨学科合作。这些技能在人工智能中具有特别的价值，因为医生将更好地处理人工智能，并可能有助于开发准确，道德和有价值的人工智能系统。因此，从更聪明的角度考虑教育需求，可以为CBL实施人工智能，以改善医学教育和实践，并最终使患者受益。虽然使用CBL-AI作为方法论适用于整个在整个教育过程中，需要进一步研究如何以及何时使用CBL-AI的一些实施问题。这可能需要与学生、医生、医学教育工作者和人工智能专家等利益相关者进行实证讨论。随着技术的不断发展，我们必须共同努力，认识和培养医生的技能，使他们能够在有或没有人工智能的情况下发挥最佳临床功能。确保患者从人工智能的激增中受益仍将是未来几年的关键挑战。提高医生技能和更好地整合患者观点的医学教育新方法将至关重要。资金这项工作是由瑞士国家研究基金会在国家研究计划“数字化转型”，NRP 77 [项目编号187263，批准号：407740_187263]的框架内完成的/1，收件人：Bernice Simone Elger教授]。洛杉矶Ossa等人医学中的人工智能135（2023）1024586竞合利益作者声明不存在利益冲突。引用[1] HametP，Tremblay J. 医学中的人工智能。 代谢2017;69：S36-40。https://doi.org/10.1016/j.metabol.2017.01.011网站。[2] Benke K，Benke G.公共卫生领域的人工智能和大数据IntJ Environ Res PublicHealth 2018;15：2796.https://doi.org/10.3390/ijerph15122796网站。[3] 何军，巴克斯特SL，徐军，等.人工智能医学技术。Nat Med 2019;25：30-6. https://doi.org/10.1038/s41591-018-0307-0.[4] Topol EJ高效能医学：人类与人工智能的融合。Nat Med 2019;25：44-56.https://doi.org/10.1038/s41591-018-0300-7.[5] Kolachalama VB，Garg PS.机器学习与医学教育Npj Digit Med 2018;54：1.https://doi.org/10.1038/s41746-018-0061-1网站。[6] McCoy LG，Nagaraj S，Morgado F等人：医学生实际上需要了解人工智能吗？NpjDigit Med 2020;3：1-3. https://doi.org/10.1038/s41746-020-0294-7.[7] Morton CE，Smith SF，Lwin T，et al.计算机编程：医学生应该学习吗？JMIRMed Educ 2019;5：e11940. https://doi.org/10.2196/www.example.com[8] Law M，Veinot P，CampbellJ， et al. Computing for medicine.医学科学院2019;94：353-7. https://doi.org/10.1097/ACM.0000000000002521网站。[9] Chari t'e-Universitéatsmedizin Berlin，Institut für MedizinischeInformatik，KI- Campus - Die Lernplattform für KünstlicheIntelligenz.勒勒贝格博特族Künstlicher Intelligenz in der Medizin（德文）. https://ki-campus.org/sites/default/files/2021-09/Leroebote_KI_in_der_Medizin_Studie.pdf。[访问25二零二二年十一月[10] 放大图片作者：Angeli C.计算思维教育：问题与挑战。Comput Behav 2019;105：106185. https://doi.org/10.1016/j的网站。chb.2019.106185。[11] 教育部。英国政府法定指导。英国国家课程：计算机学习计划。2013年9月11日发布。可查阅：https://www.gov.uk/government/publications/national-curriculum-in-england-computing-programmes-of-study/national-curriculum-in-england-computing-programmes-of-study（2022年11月25日访问）。[12] 放大图片作者：GrunhutJ， Wyatt AT.教育未来的医生在人工智能（AI）：综合审查和拟议的变化。 J Med Educ CurricDev 2021;8.https://doi.org/10.1177/23821205211036836网站。238212052110368。[13] Mittelstadt BD，Allo P，Taddeo M，et al.算法的伦理学：映射辩论。大数据Soc 2016;3. https://doi.org/10.1177/2053951716679679网站。2053951716679679.[14] Kassirer JP.教学临床推理：基于案例和教练。Acad Med 2010;85：1118-24.https://doi.org/10.1097/acm.0b013e3181d5dd0d网站。[15] 放大图片作者：J.基于案例的学习在教学中的有效性卫生专业教育。BEME系统评价：BEME指南第23号。医学教学2012;34：e421-44. https://doi.org/10.3109/0142159X.2012.680939网站。[16] Raghavendra U，Fujita H，BhanjiSV，et al.使用数字眼底图像进行青光眼准确诊断的深度卷积神经网络。InfSci2018;441：41-9.https://doi.org/10.1016/j.ins.2018.01.051。[17] 放大图片作者：Obermeyer Z，Powers B，Vogeli C.剖析用于管理人口健康的算法中的种族偏见。科学25十月2019.https://doi.org/10.1126/science.aax2342。Epub在印刷之前。[18] Choudhury N，Begum SA.医学案例 推理研究综述。 IntJ Adv Comput Sci ApplIJACSA 2016：7. https://doi.org/10.14569/IJACSA.2016.070820网站。电子版先于印刷版51/31。[19] Sendak MP，Ratliff W，Sarro D，et al.脓毒症深度学习技术与常规临床护理的现实整合：实施研究。JMIR Med Inform 2020;8：e15182.https://doi.org/10.2196/15182网站。[20] Bedoya AD，Futoma J，Clement ME，et al. Machine learning for early detectionof sepsis：an internal and temporal validation study. JAMIA Open 2020;3：252-60. https://doi.org/10.1093/jamiaopen/ooaa006。[21] 克里塔纳旺角人工智能的兴起和医生不确定的未来Eur JIntern Med2018;48：e13-4. https://doi.org/10.1016/j的网站。 ejim.2017.06.017。[22] Schei E，Fuks A，Boudreau JD.医学教育的反思：知识的谦逊、发现和诀窍。Med Health Care Philos 2018;22：167-78. https://doi.org/10.1007/s11019-018-9878-2。[23] 威尔逊·H医学训练与生物医学世界观的批判性反思。医学教育2020;54：282。https://doi.org/10.1111/medu.14077网站。[24] 欧洲委员会。关于欧洲议会和理事会制定关于人工智能的协调规则（人工智能法案）和修正某些联盟立法的法规的提案。https://digital-strategy.ec.europa.eu/en/li-laying-down-harmonised-rules-artificial-intelligence.[2022年11月25日]。[25] Parikh RB，Teeple S，Navaras.解决医疗保健中人工智能的偏见。JAMA2019;322：2377. https://doi.org/10.1001/jama.2019.18058网站。[26] 斯特劳岛医疗人工智能（AI）中的偏见自动化：解码过去以创造更美好的未来。Artiff Intell Med 2020;2. https://doi.org/10.1016/j的网站。artmed.2020.101965.[27] Pierson E，Cutler DM，LeskovecJ等，一种减少服务不足人群中无法解释的疼痛差异自然医学2021;27：136-40.https://doi.org/10.1038/s41591-020-01192-7网站。[29] Mansoor H，Elgendy IY，Segal R，等.住院风险预测模型ST段抬高型心肌梗死女性患者的死亡率：一种机器学习方法心肺2017;46：405-11.https://doi.org/10.1016/j的网站。 hrtlng.2017.09.003。[30] Birhane A，Kadhi P，Card D.机器学习研究中编码的价值观; 2021年。ArXiv210615590 Cs; 2021. https://arxiv.org/abs/2106.15590网站。[2021年1月[31] Langer T，Jazmati D，Jung O.医学生– GMSJ Med Educ 2016：33.https://doi.org/10.3205/zma001073网站。[32] Claudot F，Alla F，Ducrocq X，et al. Teaching ethics in Europe. 医学伦理学杂志2007;33：491-5. https://doi.org/10.1136/jme.2006.017921网站。[33] 瑞士医学科学院（SAMW）。对保健专业人员进行道德培训。https://www.samw.ch/dam/jcr:acb02b9d-44fa-430c-8ac2-cc615eb755af/recommandations_sams_ethics_training.pdf。[2022年6月20日]。[34] 杨伟华，王伟华，王伟华. Moralische positionen，medizinethische kenntnisseundmotivation im laufe des medizinstudiums-ergebnisseeinerquerschnittsstudieanderLudwig-Maximilians-UniversitüatMünchen（German）. 2011;23：201-16.https://doi.org/10.1007/s00481-011-0119-y。[35] Iezzoni LI，Rao SR，DesRoches CM等。调查显示，至少一些医生并不总是对病人敞开心扉。Health Afff（Millwood）2012;31：383-91.https://doi.org/10.1377/hlthaff.2010.1137网站。[36] Keskinbora KH.人工智能的医学伦理学思考J ClinNeurosci 2019;64：277-82. https://doi.org/10.1016/j.jocn.2019.03.001网站。[37] 放大图片作者：J.医疗保健中人工智能的可解释性：多学科视角。BMC MedInform Decis Mak 2020：20. https://doi.org/10.1186/s12911-020-01332-6网站。[38] Carrie M，Carrie W，Carrie W，et al.的伦理、法律和社会影响使用人工智能系统治疗乳腺癌。乳房2020;49：25-32。https://doi.org/10.1016/j.breast.2019.10.001网站。[39] Birch J，Creel KA，Jha AK等人，使用AI的临床决策必须考虑患者价值。NatMed 2022;28：229-32. https://doi.org/10.1038/s41591-021-01624-y。[40] 麦肯锡和欧洲创新与技术健康研究所（EIT）。对劳动力和组织的影响。可查阅：https://eit.europa.eu/liWebsite/eit-health-mckinsey-transf