CVAD-基于无监督图像异常检测器的软件工具及其开放源码

软件影响11（2022）100195原始软件出版物CVAD -一种无监督的图像异常检测器XiaoyuanGuoa，Jiang，JudyWawiraGichoyab，SaptarshiPurkayasthac，ImonBanerjeeda美利坚合众国埃默里大学计算机科学系b美利坚合众国埃默里大学放射学和成像科学系c美利坚合众国印第安纳波利斯印第安纳大学-普渡大学信息学和计算学院d美利坚合众国亚利桑那州立大学计算、信息学和决策系统工程学院A R T I C L E I N F O关键词：异常检测OOD检测变分自动编码器A B标准检测图像应用程序的分布外样本在保障机器学习模型部署的可靠性方面发挥着重要作用。在这篇文章中，我们开发了一个软件工具来支持我们的OOD检测器CVAD-一个自监督的基于级联变量自动编码器的Anormaly检测器，它可以很容易地应用于各种图像应用程序，没有任何假设。相应的开放源码软件已公布，以便更好地进行公共研究和使用工具。代码元数据当前代码版本V1.0用于此代码版本的代码/存储库的永久链接https://github.com/SoftwareImpacts/SIMPAC-2021-167Reproducible Capsule的永久链接https://codeocean.com/capsule/3191573/tree/v1法律代码许可证MIT使用git的代码版本控制系统使用Pytorch、Python的软件代码语言、工具和服务编译要求，操作环境依赖Ubuntu 18.04.5如果可用，链接到开发人员文档/手册https://github.com/XiaoyuanGuo/CVAD/blob/main/README.md问题支持电子邮件xiaoyuan. emory.edu1. 介绍尽管深度学习的最新进展 为了解决各种复杂的现实问题，人工智能技术的安全性和可靠性仍然是医疗应用中的一个大问题[1]。用于医疗任务的深度学习模型通常使用来自已知分布的数据进行训练，并且无法识别分布外（OOD）输出，并且由于对分布偏移不敏感，因此可能在推断期间为异常分配高概率。为了确保深度学习模型预测的可靠性，有必要识别与训练数据分布不同的未知数据类型。然而，OOD数据可以无限枚举，并且在训练期间不可用。训练异常检测器，只有分布（ID）数据可用，学习高质量特征是在推理过程中识别OOD样本的基本步骤[2]。受[3]的启发，我们提出了CVAD [4]，它建立在分支级联VAE之上。 通过无监督的分布式表示建模架构，CVAD获得了更好的重建，并学习了高质量的特征来阈值化OOD数据。CVAD检测异常的能力进一步增强，通过训练一个二元神经网络与构建的数据与随机扰动上述级联VAE2. 描述CVAD有两个主要部件-发电机整流器和那是一个小女孩。发电机由一个分支级联本文中的代码（和数据）已由Code Ocean认证为可复制：（https://codeocean.com/）。更多关于生殖器的信息徽章倡议可在https://www.elsevier.com/physical-sciences-and-engineering/computer-science/journals上查阅。∗通讯作者。电子邮件地址：xiaoyuan. emory.edu（X. Guo），banerjee. mayo.edu（I.Banerjee）。https://doi.org/10.1016/j.simpa.2021.100195接收日期：2021年11月24日;接收日期：2021年11月29日;接受日期：2021年11月29日2665-9638/©2021作者。由Elsevier B.V.出版。这是一篇开放获取的文章，使用CC BY许可证（http://creativecommons.org/licenses/by/4.0/）。可在ScienceDirect上获得目录列表软件影响杂志 首页：www.journals.elsevier.com/software-impactsX. 郭敬文<英>来华传教士。Gichoya，S.Purkayastha等人软件影响11（2022）100195变分自动编码器通过向其输入分布（ID）图像，生成器学习重建原始数据并最小化重建损失。在此过程中，生成器对内分布的潜在嵌入进行建模，从而制定“正态性”特征并提供排除显示不相似的离群值的基础。然后将重建的图像作为伪OOD数据进行第二阶段重建，以与原始ID数据区分开。因此，该算法学习为每个数据样本分配一个异常概率。2.1. 异常评分计算CVAD利用发生器和除颤器来识别异常。为了保持统一，重建误差输出在������第一级被缩放为[0，1]，其中������′=������-������ ∕ ���−������ .作为预测。通过使用scikit-learn包roc_curve函数，计算三个标准度量-TPR，FPR，AUC评分3. 影响概述由于我们的CVAD异常检测器对原始输入数据没有任何假设，它可以很容易地应用于各种情况。它的推广可以帮助解决各种任务。该实现也有一些参数设置，这将是友好的新用户。我们希望这项工作能够促进这一领域的研究，并为新的研究人员提供一个方便的工具，从。4. 限制和发展由于CVAD利用了基于VAE的方法和分类器，由于异常概率是由判别式[0，1]中的异常概率给出的，因此最终的异常分数通过k= 0计算。���������������������������5（′+），这确保异常分数也在[0，1]的范围内������������2.2. 使用CVAD架构是用Python实现的，并依赖于Pytorch [5]库。为了训练CVAD模型，应该采取两个步骤。首先，让图像生成器经过训练。由于有些情况下，图像的尺寸较大且不规则，因此在将数据送入之前，我们将图像调整为256× 256的标准尺寸 该模型我们还提供了一个cifar10数据集的例子[6]，并设计了一个相应的小架构，考虑到其图像大小为32×32× 3，请参考代码了解更多细节。为了使模型适应不同的应用场合，我们将CVAD的发生器和解调器的信道参数设置为可变的。由于医学图像通常是灰度的，因此相应的网络通道设置为1。当输入图像为RGB格式时，通道参数应设置为3。变异自动编码器在训练中的不稳定性是臭名昭著的，可能会得到nan损失。在这种情况下，为了避免不良损失，发电机的学习率应该设置得相对较小，0.00001是一个很好的开始。由于学习率被设置得很小，为了获得稳定的收敛性，训练时期应该设置得相对较大，例如500个epoch。 给定一个有多个类的数据集，一个或多个类可以被识别为正常类，参数normal_class帮助用户选择哪些类是正常的，哪些类是异常数据。生成器将使用正常数据进行训练，并且正常数据将分为培训（80%）和验证（20%）部分。在生成器之后训练器，其将在训练器训练期间再次使用以生成ID数据的表示，但未优化。将对该方法进行优化，以将生成的数据与原始数据区分开来。这个阶段不会花费太长时间，因为反射和原始输入之间的差异很明显，二进制学习器相对容易学习它。因此，几个epoch就足够了，例如10-20 epoch。2.3. 评价我们还提供了报告模型性能的评估部分。为了评估，我们混合了ID数据（即， 前述的验证数据）和OOD数据（即，异常类）在一起。为了计算模型的性能，我们将ID数据分配为标签0，将OOD数据分配为异常目标的1。 使用经过训练的发生器和异常检测器，基于的方法，其中VAE作为图像生成器执行，分类器作为分类器。用户应该首先训练生成器，然后训练可重构模型。CVAD的初始结构设计用于大小为256× 256×通道的图像。使用模型对于大的图像，应该进行修改或改变架构5. 结论我们已经开发了一个图像OOD检测器称为CVAD，它具有良好的通用性，在各种应用情况下，可以很容易地重现。研究人员和开发人员可以利用这个工具进行测试和实验。竞合利益作者声明，他们没有已知的竞争性财务利益或个人关系，可能会影响本文报告的工作致谢这项工作由国家生物医学成像和生物工程研究所（NIBIB）资助，美国国家卫生研究所根据合同75N92020C00008和75N92020C00021授予美国MIDRC，美国国家科学基金会#1928481来自电气、通信网络系统部门引用[1]Litjens Geert，Thijs Kooi，Babak Ehteshami Bejnordi，Arnaud Arindra Adiyoso Setio，Francesco Ciompi，Mohsen Ghafoorian，Jeroen Awm Van Der Laak，BramVanGinneken，Clara I. Sánchez，医学图像分析中的深度学习调查，医学图像分析。42（2017）60-88.[2]郭晓媛，Judy Wawira Gichoya，Saptarshi Purkayastha，Imon Banerjee，Margin-aware intra-class novelty identification for medical images，2021，arXiv预印本arXiv：2108.00117。[3]Zimmerer David，Jens Petersen，Klaus Maier-Hein，使用VAE进行高级和低级图像分量分解以改进重建和异常检测，2019，arXiv预印本arXiv：1911.12161。[4]郭晓媛，Judy Wawira Gichoya，Saptarshi Purkayastha，Imon Banerjee，CVAD：基于级联VAE的通用医疗异常检测器，2021，arXiv预印本arXiv：2110.15811。[5]Adam Paszke， Sam Gross， Francisco Massa， Adam Lerer， James Bradbury，GregoryChanan，Trevor Killeen，et al.，Pytorch：一个命令式风格的高性能深度学习库，Adv. 神经信息过程系统32（2019）8026[6]Krizhevsky Alex，Geoffrey Hinton，Learning multiple layers of features from tinyimages，Vol. 7，2009。2