牙齿自监督学习与掩蔽图像建模及牙科全景X光片分析

5594自监督学习与掩蔽图像建模用于牙齿编号、牙齿修复体检测和牙科全景X射线照片阿马尼·阿尔马尔基·隆金·扬·拉泰茨基美国费城天普大学计算机与信息科学系{amani.almalki，latecki} @ temple.edu摘要计算机辅助的放射学信息报告目前正在出现在牙科实践中，以方便牙科保健和减少人工全景X线片解释的时间消耗。然而，用于训练的牙齿X线照片的量非常有限，特别是从深度学习的角度来看。 本研究旨在利用最新的自监督学习方法，如Sim- MIM和UM-MAE，以提高模型效率和了解有限数量的牙科X光片。我们使用Swin Transformer进行牙齿编号、牙齿矫正的检测和实例分割任务。据我们所知，这是第一项将自监督学习方法应用于牙科全景X光片上的Swin Transformer的研究。结果表明，SimMIM方法具有较高的计算精度. 测试性能的90.4%和88.9%，检测牙齿和牙齿矫正和实例分割，分别提高了13.4和12.8的平均精度比随机初始化基线。此外，我们还对现有的全景射线照相数据集进行 了 扩 充 和 校 正 。 代 码 和 数 据 集 可 在https://github.com/AmaniHAlmalki/DentalMIM获得。1. 介绍对计算机辅助决策的需求正在上升，以促进牙科保健提供者的诊断和治疗计划。牙科成像是诊断和治疗计划的重要诊断工具，仅通过临床检查和病史是不可能的[33]。牙科全景X射线是一种全面的工具，可以筛查牙齿、周围牙槽骨和上下颌[28]。此外，牙科修复体是一种生物相容性合成材料，用于修复缺失的牙齿结构。缺失牙的结构可以通过全覆盖和部分覆盖来修复根据缺失结构的延伸和强度进行修复，因此，根管充填是用于用生物相容性修复材料填充牙齿结构（根部分）内的空间的修复程序。在牙科世界中有各种牙科修复材料;每一种都有其适应症、优点、缺点和临床医生的偏好。大多数牙科修复材料在X射线中显示为不透射线的，并且它们可以由牙科护理提供者识别[1，24]。然而，人工干预牙齿编号和识别牙齿脱落是耗时的，可能会忽略重要的数据。因此，计算机视觉和计算机科学对自动化过程的兴趣被唤起。很少有研究试图将计算机视觉算法应用于牙科X光片分析。它们包括用于牙齿编号和实例分割的卷积神经网络（CNN）[21]，两阶段网络[36]，更快的R-CNN [6，15，32，30，35]，PANet [29]，MaskR-CNN [14，17，18，8]和U-Net网络[27，26，16]。再-近年来，随着计算硬件/算法的出现和数据量的扩大，CNN在分析医学图像方面具有巨大的新兴应用然而，由于固有的归纳偏差，CNN的整体能力有限[11]。在这项研究中，我们建议使用最近推出的SwinTransformer [22]来分析牙科全景X线照片。然而，Swin Transformer需要大量数据进行训练，但可用的牙科X光片数量非常有限为了缓解这个问题，我们建议使用自监督学习。据我们所知，这是第一项将自监督学习方法应用于牙科全景X线片上的Swin Transformer的研究。最近，自监督学习方法，Sim- MIM [34]，UM-MAE[19]，BEiT [2]，MAE [13]，SplitMask[12] ，MoCo v3 [9]和DINO [5]，在预训练变压器[11，22]学习视觉表示方面是有效的。5595位置。但是，对于具有局部性的基于金字塔的ViT（Swin Transformer），仅启用UM-MAE和SimMIM通常，掩蔽图像建模（MIM）方法在图像块被馈送到Transformer之前掩蔽一些图像块以预测掩蔽区域中的原始块。这种从上下文中聚合信息的功能尽管UM-MAE和SimMIM都为Swin Transformer编码器[22]提供了简单有效的预训练策略，但编码器的输入过程是不同的。MAE丢弃屏蔽的令牌，只将可见的补丁输入到轻量级解码器。然而，MAE也打破了输入图像的二维结构。因此，它不适用于没有在[19]中引入的统一屏蔽（UM）的Swin Transformer，以桥接MAE和SwinTransformer之间的间隙。SimMIM在编码器中包含掩码令牌，并将其用作直接预测机制。使用SimMIM的随机掩码此外，贴片的位置在牙科X光片中对于可预测的结果至关重要。SimMIM保持了编码器和解码器都知道的补丁的位置，而MAE丢弃了位置信息，这可能会导致不准确，正如我们在本文中所展示的那样。由于没有用于预训练的标准牙科图像数据集（与自然图像的ImageNet不同），SimMIM和UM-MAE在与下游任务相同的数据集上进行训练我们对牙齿图像任务进行了实验，包括牙齿编号、牙齿变形检测和牙齿全景X射线数据集上的实例对于这些任务，我们使用基础Swin Transformer（Swin-B）[22]作为级联掩码R-CNN [4]的主干。我们比较了四个Swin Transformer初始化，包括SimMIM和UM-MAE，监督初始化和随机初始化基线。我们的研究结果表明，SimMIM自我预训练可以显着提高目标检测和实例分割性能的牙齿图像。虽然以前的研究已经调查了牙齿分割，我们仍然在这项工作中解决许多差距。首先，没有用于牙齿编号的综合实例分割数据集。之前的工作[29]使用了二进制语义分割掩码的修改版本，这导致缺乏实例重叠和低分辨率输出，导致预测不准确，特别是在牙齿的边界上。其次，由于缺乏牙科专家的监督，存在相当数量的系统性错误第三，没有先前的工作同时考虑牙齿修复分割以外的牙齿分割。由于类的数量和类的不平衡性，牙齿分类的加入增加了计算机视觉问题的复杂性为了解决数据集问题，我们增加并纠正了[29]中介绍的现有数据集除了在专家监督下纠正手动分割错误外，我们还通过开发牙科矫正的注释来进一步扩展数据集，包括直接矫正、间接矫正和根管治疗。标记过程产生了一个独特的高质量、增强的数据集。我们的数据可根据要求以TNDRS（牙齿编号、修复体检测和分段）注释的名称提供我们的主要贡献有两个方面：• 我们利用SimMIM和UM-MAE的自监督学习来缓解全景X射线照片的小数据问题。• 校正的数据集导致性能的显著提高，而牙科诊断的添加标签扩展了可能的牙科应用的范围。2. 牙齿编号在牙科中，各种牙科编号系统可用于成人和儿童的牙齿编号。这些编号系统被普遍接受，以便在牙科护理提供者之间进行更好的通用编号系统、帕尔默编号系统和国际牙科联合会编号系统（FDI）是全球牙科专业人员最常用的系统外国直接投资制度是使用最广泛的国际制度。在该系统中，每个单齿都分配有两位数;第一位数代表每个象限。上颌的右象限和左象限分别用数字1和2表示，下颌的左象限和右象限分别用数字3和4表示。第二个数字代表每颗牙齿，基于其在颌中从中间开始的位置。中切牙被指定为数字1，而第三磨牙被设置为数字8 [32，31]。3. 方法该方法包括两个阶段：MIM预训练和下游任务，如图所示。1.一、在第一阶段，Swin Transformer作为编码器使用MIM自监督学习方法进行预训练。MIM将图像分成小块，用掩码标记代替随机小块.然后，这些补丁与掩码令牌一起被输入到Swin编码器。因此，可见和掩蔽补丁的位置编码都被保留，而UM-MAE完全丢弃了这些掩模位置。UM-MAE从每个2 × 2网格中随机采样三个补丁，丢弃整个图像的25%5596图1.用于牙齿检测、牙齿矫正检测和MIM Self Pre-training实例分割的管道。(a)Swin Transformer首先通过MIM方法在目标数据集上进行预训练。(b)预训练的Swin Transformer用作级联掩码R-CNN中的骨干，用于检测和分割任务。然后，它随机将25%的已采样区域掩蔽为共享的可学习令牌。最后，采样的补丁和掩蔽的令牌被重组为一个紧凑的二维输入下的原始图像分辨率的四分之一，通过Swin编码器馈送。然后，附加解码器以在两种方法的掩蔽区域处重建原始块。在第二阶段中，预先训练的Swin权重被转移以初始化检测和分割编码器。Swin Transformer主干的特征被馈送到颈部（FPN [20]）和检测头（级联掩码R-CNN），用于边界框回归和分类，如图所示。2.我们选择Cascade Mask R-CNN [4]框架，因为它在对象检测和物体分割研究中无处不在。然后，对整个网络进行微调，以执行检测和分割任务。我们使用基本Swin Transformer主干（Swin-B）并比较四种配置的有效性，如下所示：随机该网络使用随机初始化的权重从头开始训练，并且不使用自监督方法。Swin主干配置遵循[22]的代码，级联掩码R-CNN配置使用MMDetection [7]中的默认值。监督。Swin主干经过预训练，用于使用ImageNet-1K [10]图像及其标签进行监督对象检测和实例分割。我们使用来自[22]的Swin-B的权重。Swin-B接受了预先训练，三百个纪元。SimMIM。我们使用在自监督ImageNet-1 K上预训练的Swin-B权重[34]。这个模型被预先训练了100个epoch。云美由于ImageNet-1 K预训练权重不可用;我们使用官方UM-MAE代码版本[19]在无监督ImageNet-1 K上训练Swin-B 800 epochs（[19]中使用的默认训练长度4. 实验4.1. 数据集扩充和校正TNDRS 牙 科 全 景 X 光 片 数 据 集 。 Detection ，Numbering，and Segmentation（DNS）[29]是一个牙齿全景X射线数据集，由543个带有真实分割标签的注释图像组成，包括基于FDI牙齿编号系统的编号信息。图像大小为1991x1127像素。数据集注释有一些限制，如下所示：1）缺乏实例重叠;（2）由于缺乏牙科专家的监督，出现了一些系统性错误;（3）牙列不分段。为了克服这些问题，我们修改和纠正牙齿实例分割和重叠在所有图像。此外，我们通过开发牙科矫正的分割，包括直接矫正、间接矫正和根管治疗，为进一步扩展数据集做出贡献。这个过程是在牙医的监督下使用COCO-Annotator工具5597图2.对象检测架构的图示。[3]的文件。我们参加了每周一次的会议，讨论相关的问题，如编号，牙齿矫正和分割问题。最后，对注释进行了回顾，以保证质量，避免系统性和随机性错误。图3显示了一个比较旧版本和新版本数据集注释的示例，突出显示了实例重叠（蓝色箭头）和系统误差校正（绿色箭头）。图4示出了牙齿矫正的分割的样本。我们相信这是最具包容性的数据集分割牙齿和牙科全景 X 光照 片中 的牙 齿矫 正。 根据 要求 ，我 们以TNDRS（牙齿编号、修复检测和分割）注释的名称提供我们的4.2. 评估指标对于我们所有的实验，我们将数据分成五份，每份包含大约20%的图像。其中一个折叠固定为测试数据集（由111张图像组成），其他四个折叠（每个折叠由108张图像组成）以交叉验证的方式组成训练和验证数据集这个过程重复五次。我们采用的评价指标是平均精度的对象检测和实例分割模型。4.3. 实现细节实验基于PyTorch[25]使用NVIDIA Tesla Volta V100 GPU进行训练在所有实验中，批量大小等于训练样本的总数，即432。所有输入图像的大小都调整为800×600像素。我们在所有实验中使用AdamW [23]优化器。数据扩充。我们应用噪声添加和水平翻转，将齿数更改为相等的新值（左齿数变为右齿数数字，反之亦然）。SimMIM预训练。基本学习率设置为8 e-4，权重衰减为0.05，β1 = 0.9，β2 = 0.999，具有10个epoch预热的余弦学习率调度器我们使用一个随机MIM，补丁大小为16×16，掩模比为20%。我们采用一个目标图像大小为800×600的线性预测头，并使用L1损失来计算掩蔽像素预测的损失。UM-MAE预培训。基本学习率设置为1.5e-4，权重衰减为0.05，β1 = 0.9，β2 = 0.95，具有10个epoch预热的余弦衰减学习率调度器。我们使用一个随机MIM，补丁大小为16×16，掩模比为25%。我们采用一个目标图像尺寸为800×600的线性预测头，并采用均方误差（MSE）来计算掩蔽像素预测的损失。任务微调。对于下游任务，我们使用单尺度训练。初始学习率为0.0001，权重衰减为0.05。5. 结果和分析SimMIM和UM-MAE重建。SimMIM和UM-MAE的重构结果如图所示。5.五列显示原始图像、UM-MAE掩蔽图像、UM-MAE重建图像、SimMIM掩蔽图像和SimMIM重建图像。实验结果表明，两种MIM方法都能从随机上下文中恢复丢失的信息。值得注意的是，MIM的最终目标是使下游任务受益，而不是生成高质量的重建。5.1. 定量结果比较初始化。表1仅示出了牙齿检测和实例分割的结果，并且5598图3.新旧数据集注释之间的比较。(a)数据集旧注释。(b)数据集新注释。蓝色箭头表示包含实例重叠，而绿色箭头表示系统误差的校正，例如，未分割的磨牙根。图4.牙列的分割样本红色箭头表示a）间接恢复，b）直接恢复，c) 根管治疗将它们与Silva等人先前发表的文章进行了比较。[29]第10段。我们使用第3节中描述的预训练模型和随机配置呈现TNDRS微调结果。我们提出几点意见。(1) 所 有 四 个 Swin Transformer 初 始 化 都 超 过 了PANet的基于CNN的SOTA，其中ResNet-50主干使用Silva等人的ImageNet预训练。[29]第10段。(2) 从监督IN-1 K预训练中进行微调，比从头开始训练高出3.4个AP框（79.1 vs. 75.7）和3.5更高的AP掩码（78.3 vs. 74.8）。(3) UM-MAE显著优于监督初始化，分别为5.4AP框（84.5 vs. 79.1）和4.9AP掩码（83.2 vs.78.3）。(4) SimMIM的性能优于UM-MAE，分别为1.6AP盒（86.1 vs. 84.5）和1.4AP掩码（84.6 vs.83.2）。表 2 比 较 了 牙 科 矫 正 数 据 增 强 后 的 四 种 SwinTransformer初始化。我们的结果证明了SimMIM方法实现了高-在牙齿检测、牙齿矫正和实例分割方面，EST性能分别为90.4%和88.9%参数设置。在表3中，我们使用不同的SimMIM预训练时期和掩码比率对牙齿检测和实例分割任务首先，SimMIM的性能不会从更长的训练中受益。其次，与自然图像中采用的高掩模比率[34]这两项任务都得到了一致的改进，掩模比率从60%降低到10%。这种降低促进训练的原因可能归因于相关特征在全景X射线上很小的事实。数据集校正。 在我们对第4.1节中讨论的DNS上的牙齿分割进行校正之后，牙齿检测和实例分割性能通过5.9 AP框和6.4 AP掩模得到显著改善，如表4所示。5599图5.SimMIM和UM-MAE重建结果。第一列是原始图像，第二列和第四列是掩蔽图像，其中掩蔽区域由灰色斑块表示。第三列和第五列是从未掩蔽的补丁重建MIM。初始化骨干预训练数据AP框AP掩码PANet[29]ResNet-50IN-1 K，带标签75.473.9随机Swin-B没有一75.774.8监督Swin-BIN-1 K，带标签79.178.3UM-MAESwin-BIN-1K84.583.2SimMIMSwin-BIN-1K86.184.6表1.仅牙齿检测和实例分割的结果5.2. 定性结果在图6中，显示的四个不同图像的结果展示了当Swin Transformer仅针对牙齿检测和分割使用SimMIM进行预训练时性能改善的定性样本。检测和分割方面的这些改进与第5.1节中的定量结果一致。图7显示了当Swin Transformer预先训练时，增加齿数后的定性结果。SimMIM。5.3. 预训练时间和内存消耗将UM-MAE与SimMIM框架进行比较，UM-MAE的核心优势在于内存和运行时效率。在表5中，我们显示了 基 于 Swin-B 的 清 晰 比 较 据 观 察 ， UM-MAE 与SimMIM相比，速度提高了约2倍，内存减少了至少2倍，而它们在下游任务下的表现则相反。5600骨干预训练数据AP框AP掩码随机Swin-B没有一77.076.1监督Swin-BIN-1 K，带标签80.379.2UM-MAESwin-BIN-1K88.385.7SimMIMSwin-BIN-1K90.488.9表2.结果后，增加牙科净化。图6.牙齿检测和实例分割的定性结果。请注意，与使用SimMIM架构预训练的Swin Transformer生成的分割（橙色箭头）相比，使用基线SwinTransformer方法创建的牙齿检测和实例分割缺失预训练时期AP框AP掩模百分之六十10084.383.2百分之五十10084.783.6百分之五十80083.183.0百分之四十10085.583.9百分之三十10085.984.1百分之二十10086.184.6百分之十10085.884.3表3.掩模比率对牙齿检测和物体分割任务的影响。DNS AnnotationsAPboxAPmask修正前修正后表4.矫正牙齿分割。方法时间存储器SimMIM 24.6小时18.7 GBUM-MAE12.5小时6.7 GB表5.训练前时间与记忆消耗的比较。5601图7.使用SimMIM检测牙齿和牙齿矫正以及实例分割的定性结果6. 结论两种自监督学习方法应用于牙科全景X射线照片上的Swin Transformer：沈敏和乌玛。结果的掩蔽为基础的方法，SimMIM，获得优于UM-MAE，监督和随机初始化的牙齿，牙齿矫正，和实例分割的检测性能。基于该实验，我们可以得出结论，在将SimMIM预训练应用于牙齿成像领域以获得可靠结果时，调整参数（包括掩模比率和预训练时期）是有用的。此外，校正数据集注释导致进一步的改进，显著超过现有的最先进的结果。我们未来工作的计划是检查SimMIM预训练在预后和结果预测任务中的作用。7. 致谢我们谨此向陈博士致以最深切的谢意。宾夕法尼亚大学的牙科专家Abdulrahman Almalki，他对牙科进行了 有价 值的讨 论。 这 项 工作 得 到了 NSF Grant IIS-1814745的部分支持。这些计算是在Temple University的HPC资源上进行的，该资源部分由NSF通过资助号1625061和美国国家科学基金会（U.S. ARL，合同号W911 NF-16-2-0189。5602引用[1] Ragda Abdalla-Aslan ， Talia Yeshua ， Daniel Kabla ，Isaac Le- ichter，and Chen Nadler.一个使用机器学习的人工智能系统，用于全景X线摄影中牙齿变形的自动检测和分类。口腔外科，口腔医学，口腔病理学和口腔放射学，130（5）：593[2] 包航波，李东，魏福如。Beit：Bert图像转换器的预训练。arXiv预印本arXiv：2106.08254，2021。[3] 贾斯汀·布鲁克斯COCO Annotator. https：//github.com/jsbroks/coco-annotator/，2019年。[4] 赵伟蔡和努诺·瓦斯康塞洛斯。级联r-cnn：高质量目标检测和实例分割。IEEE Transactions on Pattern Analysisand Machine Intelligence，43（5）：1483[5] 玛蒂尔德·卡隆、雨果·图夫龙、伊尚·米斯拉、埃尔韦·伊古、朱利安·梅拉尔、彼得·博亚诺夫斯基和阿曼德·儒林。自我监督视觉转换器中的新兴特性。IEEE/CVF计算机视觉国际会议论文集，第9650-9660页，2021年[6] Hu Chen，Kailai Zhang，Peijun Lyu，Hong Li，LudanZhang，Ji Wu，and Chin-Hui Lee.基于根尖片中物体检测的自动牙齿检测和编号的深度学习方法科学报告，9（1）：1-11，2019。[7] Kai Chen，Jiaqi Wang，Jiangmiao Pang，Yuhang Cao，Yu Xiong，Xiaoxiao Li，Shuyang Sun，Wansen Feng，Ziwei Liu，Jiarui Xu，et al.检测：打开mmlab检测工具箱和基准。arXiv预印本arXiv：1906.07155，2019。[8] Liang-ChiehChen ， GeorgePapandreou ， IasonasKokkinos，Kevin Murphy，and Alan L Yuille.Deeplab：使用深度卷积网络、atrous卷积和全连接crfs进行语义IEEE Transactions on Pattern Analysis and MachineIntelligence，40（4）：834[9] Xinlei Chen，Saining Xie，and Kaiming He. 训练自我监督视觉转换器的实验研究。在IEEE/CVF计算机视觉国际会议论文集，第9640-9649页[10] Jia Deng，Wei Dong，Richard Socher，Li-Jia Li，KaiLi，and Li Fei-Fei. Imagenet：一个大规模的分层图像数据库。2009年IEEE计算机视觉和模式识别会议，第248-255页。Ieee，2009年。[11] AlexeyDosovitskiy，LucasBeyer，AlexanderKolesnikov，Dirk Weissenborn，Xiaohua Zhai，ThomasUnterthiner ， Mostafa Dehghani ， Matthias Minderer ，Georg Heigold，Sylvain Gelly，et al.一张图片相当于16x16个单词：用于大规模图像识别的变换器. arXiv预印本arXiv：2010.11929，2020。[12] Alaaeldin El-Nouby，Gautier Izacard，Hugo Touvron，Ivan Laptev，Herve 'Jegou和Edouard Grave。大规模数据集对于自我监督的预训练是必要的吗？arXiv预印本arXiv：2112.10740，2021。[13] Kaiming He，Xinlei Chen，Saining Xie，Yanghao Li，Piotr Doll a'r，andRossGirshick. Masked自动编码器是可扩展的视觉学习器。IEEE/CVF会议论文集计算机视觉和模式识别，第16000- 16009页，2022年。[14] Gil Jader ， Jefferson Fontineli ， Marco Ruiz ， KalyfAbdalla，Matheus Pithon，and Luciano Oliveira.全景x射线 图 像 中 牙 齿 的 深 度 实 例 分 割 。 2018 年 第 31 届SIBGRAPI图形，图案和图像会议（SIBGRAPI），第400-407页。IEEE，2018年。[15] Changgyun Kim，Donghyun Kim，HoGul Jeong，Suk-JaYoon，and Sekyoung Youm.结合cnn与启发式演算法之自动牙齿侦测与编号。应用科学，10（16）：5624，2020。[16] Thorbjørn Loring Koch ， Mathias Perslev ， ChristianIgel，and Sami Sebastian Brandt.基于u网的口腔曲面断层片精确分割2019年IEEE第16届国际生物医学成像研讨会（ISBI 2019），第15-19页。IEEE，2019。[17] Jeong-Hee Lee 、 Sang-Sun Han 、 Young Hyun Kim 、Chena Lee和Inhyeok Kim。全深度卷积神经网络在全景X光片牙齿分割自动化中的应用。口腔外科，口腔医学，口腔病理学和口腔放射学，129（6）：635[18] 安德烈·费雷拉·莱特，阿德里安·范·杰文，霍尔格·威廉姆 斯 ， 托 马 斯 · 贝 兹 尼 克 ，皮 埃 尔 · 拉 胡 德 ，HugoGaeEschertaAraujo ， MyrthelVranckx ， andReinhilde Jacobs.人工智能驱动的新型工具，用于在全景X射线照片上进行牙齿检测和分割。临床口腔研究，25（4）：2257[19] 李翔，王文海，杨凌峰，杨健。均匀掩蔽：使基于金字塔的视觉变换器的mae预训练具有局部性。arXiv预印本arXiv：2205.10063，2022。[20] 林宗义、彼得·多尔、罗斯·格希克、何开明、巴拉特·哈里哈兰和塞尔日·贝隆吉. 用于目标检测的特征金字塔网络。在IEEE计算机视觉和模式识别会议论文集，第2117-2125页[21] Geert Litjens、Thijs Kooi、Babak Ehteshami Bejnordi、Ar- naud Arindra Adiyoso Setio 、 Francesco Ciompi 、Mohsen Ghafoorian、Jeroen Awm Van Der Laak、BramVan Gin-ne k en和ClaraIS a'nchez。深度学习在医学图像分析中的应用医学图像分析，42：60-88，2017。[22] Ze Liu，Yutong Lin，Yue Cao，Han Hu，Yixuan Wei，Zheng Zhang ， Stephen Lin ， and Baining Guo. SwinTransformer：使用移位窗口的分层视觉Transformer。IEEE/CVF计算机视觉国际会议论文集，第10012-10022页，2021年[23] 伊利亚·罗希洛夫和弗兰克·哈特。解耦权重衰减正则化。arXiv预印本arXiv：1711.05101，2017。[24] 比约恩·莫兰德河口腔X线摄影在牙诊断中的应用。瑞典牙科杂志Supplement，119：1 -26，1996.[25] Adam Paszke ， Sam Gross ， Francisco Massa ， AdamLerer ， James Bradbury ， Gregory Chanan ， TrevorKilleen ， Zeming Lin ， Natalia Gimelshein ， LucaAntiga，et al.Pytorch：一个操作风格的高性能深度学习库。神经信息处理系统的进展，32，2019。5603[26] Olaf Ronneberger，Philipp Fischer，and Thomas Brox.使用u形深度卷积网络的牙科x射线图像分割。生物医学成像国际研讨会，第1卷，第1-13页，2015年[27] Olaf Ronneberger，Philipp Fischer，and Thomas Brox. U-net：用于生物医学图像分割的卷积网络。医学图像计算和计算机辅助干预国际会议，第234-241页。施普林格，2015年。[28] VE Rushton和K Horner。全景放射学在牙科实践中的应用。牙科杂志，24（3）：185[29] 贝尔纳多·席尔瓦，拉里斯·皮涅罗，卢西亚诺·奥利维拉，和马修·皮松。使用端到端深度神经网络进行牙齿分割和编号的研究2020年第33届SIBGRAPI图形，图案和图像会议（SIBGRAPI），第164-171页。IEEE，2020年。[30] Karen Simonyan和Andrew Zisserman用于大规模图像识别 的 非 常 深 的 卷 积 网 络 。 arXiv 预 印 本 arXiv ：1409.1556，2014。[31] DB 史 密 斯 牙 齿 的 编 号 。 New Zealand School DentalService gazette，37（4）：56，1976.[32] Dmitry V Tuzoff ， Lyudmila N Tuzova ， Michael MBornstein ， Alexey S Krasnov ， Max A Kharchenko ，Sergey I Nikolenko，Mikhail M Sveshnikov，and GeorgiyB Bednenko.使用卷积神经网络在全景X线照片中进行牙齿Dentomaxillofacial Radiology，48（4）：20180051，2019.[33] Stuart C White，Edward W Heslop，Lars G Hollender，Kristine M Mosier，Axel Ruprecht，Michael K Shrout，et al.放射治疗参数：美国口腔颌面放射学会的官方报告。口腔外科，口腔医学，口腔病理学，口腔放射学和牙髓病学，91（5）：498[34] Zhenda Xie ， Zheng Zhang ， Yue Cao ， Yutong Lin ，Jianmin Bao ， Zhuliang Yao ， Qi Dai ， and HanHu.Simmim ： 一 个 简 单 的 遮 罩 图 像 建 模 框 架 。 在IEEE/CVF计算机视觉和模式识别会议论文集，第9653-9663页[35] Kailai Zhang，Ji Wu，Hu Chen，and Peijun Lyu.提出了一种基于级联网络结构的标签树的牙齿识别方法.计算机化医学成像和图形学，68：61[36] Yue Zhao，Pengcheng Li，Chenqiang Gao，Yang Liu，Qiaoyi Chen，Feng Yang，and Deyu Meng.Tsasnet：通过两阶段注意力分割网络对牙科全景X射线图像进行牙齿分割。基于知识的系统，206：106338，2020。