基于深度学习的皮肤癌检测模型在云端应用

医学信息学解锁18（2020）100282皮肤癌检测：在云中应用基于深度学习的模型驱动架构对真皮细胞图像Mohammad Ali Kadampur*，Sulaiman Al Riyaee信息管理系，计算机信息科学学院，伊玛目穆罕默德·伊本·沙特伊斯兰大学，印度&A R T I C L EI N FO保留字：深度学习AI模型驱动架构深度认知工作室CNN癌图像分类A B S T R A C T背景：皮肤癌是一种常见的癌症，早期发现可以提高生存率。目的：建立深度学习模型来分类真皮细胞图像并检测皮肤癌。方法：云中的模型驱动架构在其核心实现中使用深度学习算法，用于构建有助于预测皮肤癌的模型，提高准确性。本文阐述了建立模型的方法，并将其应用于真皮细胞图像的分类结果：在标准数据集上测试了这里构建的深度学习模型，观察到99.77%的曲线下面积。结论：医生可以使用模型驱动的架构，快速构建深度学习模型来预测皮肤癌。1. 介绍皮肤癌是一种危险和广泛的疾病[1]每年仅在美国就有大约540万皮肤癌新发病例[2，4]。全球统计数据同样令人震惊[3][5]。最近的报告显示，从2008年到2018年，每年诊断的新黑色素瘤病例增加了53%[1，4]。的这种疾病的死亡率预计在未来十年会上升如果在后期诊断，存活率低于14% [8然而，如果皮肤癌在早期阶段被发现，那么存活率接近97% [3]。这就需要及早发现皮肤癌。本文讨论了早期诊断的问题，提高了准确性。据发现，[18，22，23]熟练的皮肤科医生通常遵循一系列步骤，从肉眼观察可疑病变开始，然后皮肤镜检查（显微镜下放大病变），然后活检。这将消耗时间，患者可能会进入后期阶段。此外，准确的诊断是主观的，取决于临床医生的技能据发现，最好的皮肤科医生在正确诊断皮肤癌方面的准确率低于80%[6]。除了这些困难之外，全球公共医疗保健领域没有多少熟练的皮肤科医生。为了在最早阶段快速诊断皮肤癌并解决上述问题中的一些，已经进行了广泛的研究。通过开发计算机图像分析算法研究解决方案[26]。这些算法解决方案中的大多数都是参数化的，这意味着它们需要数据呈正态分布。由于数据的性质无法控制，这些方法将不足以准确诊断疾病。然而，非参数解不依赖于数据是正态分布形式的约束在本文中，使用深度学习为皮肤科医生提供增强的帮助。该方法的实质是训练计算机通过分析皮肤癌图像来确定问题。该演示文稿的新颖之处在于，计算机模型可以在没有任何编程知识的情况下开发。该模型的平均诊断准确率约为98.89%，最高可达100%。本文提出的机器辅助诊断克服了公共卫生中皮肤科医生的延迟、准确性和稀缺性问题。研究表明，在皮肤癌检测和图像分类领域，存在过多的研究论文。这些方法的详细综述见参考文献。[1、7、8]。这些文件[1、7、8]均使用了当时可用的最新方法，并声称性能改进。用于图像类的流行方法-从决策树算法[9，10]、贝叶斯分类器[11- 然而* 通讯作者。电子邮件地址：mkadampur@imamu.edu.sa（硕士）Kadampur），saalriyaee@imamu.edu.sa（S.Al Riyaee）。网址：http://www.imamu.edu.sa（硕士）Kadampur）。https://doi.org/10.1016/j.imu.2019.100282接收日期：2019年8月5日;接收日期：2019年11月30日;接受日期：2019年12月5日在线预订2019年2352-9148/© 2019由Elsevier Ltd.发布这是一篇基于CC BY-NC-ND许可证的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。可在ScienceDirect上获得目录列表医学信息学期刊主页：http://www.elsevier.com/locate/imuM.A. Kadampur和S.赖耶医学信息学解锁18（2020）100282Fig. 1. 使用DLS构建的示例深度学习模型。2��所有这些论文的共同主题是，它们看起来像是计算机和软件工程领域的专家的工作。计算机语言编程专业知识的基本水平，如Java，R和Python确实需要构建这些诊断模型[17在本文中，我们讨论了开发基于深度学习的图像分类模型以识别皮肤癌的方法，而无需事先具备编程知识。本文的主要目标是：1 使研究人员和从业者能够通过简单的即插即用技术开发深度学习模型。2 使用深度学习对细胞图像进行分类并以更高的准确2. 相关作品近年来，基于图像分析的皮肤癌检测的研究取得了显著进展。已经尝试了许多不同的技术[1]。2018年的国际皮肤成像合作组织（ISIC）活动通过举办挑战赛，已成为皮肤癌检测的事实上的基准。另据报道，一款手机应用程序可用于检测皮肤癌。在所有这些努力中，研究人员试图通过采用不同的分类算法和技术来提高诊断的准确性。当Fukushima（1988）和后来的Le-Cunn（1990）引入卷积神经网络（CNN）结构时，图像分类进入了新的领域。他们使用CNN进行图像分类。CNN基本上模仿了人类的视觉认知系统，被认为是最好的图像分类方法。虽然有大量关于图像分类的文献，但我们将文献综述限制在皮肤癌图像的深度学习方法上。通过预先训练的皮肤癌分类的第一个突破GoogLeNet Inception V3 CNN模型来自Esteva等人。[20 ]第20段。他们使用了129，450张临床皮肤癌图像，包括3，374张皮肤镜图像。报告的分类精度为72.1 0.9。2016年，Yu等人[21]在ISBI 2016挑战数据集上开发了一个超过50层的CNN，用于恶性黑色素瘤癌症的分类。本次挑战中报告的最佳分类准确率为85.5%。2018年，Haenssle etal.[22]利用深度卷积神经网络对皮肤镜检查黑色素细胞图像的二元诊断类别进行分类，并报告了86.6%的分类灵敏度和特异性使用ECOCSVM和深度学习CNN的多类分类由Dorj等人开发。参考文献[23]。该方法是使用ECOC SVM和预训练的AlexNet深度学习CNN，并对多类数据进行分类。在这项工作中的平均准确度为95.1%。在参考文献[24]中，Han等人使用深度卷积神经网络对12种皮肤疾病的临床图像进行分类。报告的最佳分类准确率实例在96.0%-1%之间变化。分类器的详细综述不是本文的范围;然而，在参考文献中可以找到对深度学习分类器的系统综述[25].3. 模型算法&使用深度学习工作室（DLS），我们可以构建智能数据发现模型。我们可以简单地拖放合适的组件来构建合适的模型。DLS有一个桌面版本和一个云版本。它支持多GPU训练多达4个GPU在其社区版和额外的GPU在其企业版。在这项工作中，我们使用了云版本与服务器GPU-XEON-E5-8 GB。DLS在其体系结构中具有用于项目创建、数据上传、模型构建、模型训练、模型测试和代码生成的UI组件。只需拖动相关的仪表板组件即可选择不同的深度学习算法DLS可以轻松构建深度学习模型。一个示例模型构建如图所示。1.一、构建深度学习模型的步骤如下：M.A. Kadampur和S.赖耶医学信息学解锁18（2020）100282图二、 构建深度学习模型：步骤。3�1. 选择输入块，将其拖放到工作空间中2. 执行一些规范化（如果需要，拖放相关块）&3. 应用卷积块（最好选择激活ReLU4. 应用池块5. 应用Dropout块6. 重复3、4、5次，次数视需要而定&7. 使用一些压平块8. 使用一些核心层（最好是致密块）。在这里，确保输出块之前的最后一个核心层根据数据（输出）类别具有正确的输出值参数。9. 应用输出块。10. 设置模型参数（超参数设置）。11. 最后，确保模型构造检查绿色否则微调您的选择。图2总结了构建深度学习模型的上述步骤。模型参数的设置对模型的性能至关重要。设置这些参数没有经验法则。参数设置的一般指导原则是对其他人工作得很好，只是尝试。 ReLU是内部ConvNets。过滤器尺寸通常为3 3，并且所使用的滤波器的数量可以以2的倍数变化。采用0.25-0.50的辍学率来加快培训速度。用户必须检查输出层中的输出数量是否正确。如果训练精度较低，则应增加epoch和卷积层。池化层以特定因子沿着空间维度对体积进行下采样。这减少了表示的大小和参数的数量，这使得模型更有效并防止过度拟合。使用该设置可防止模型过度拟合。3.1. 方法DLS，模型驱动架构工具提供神经网络建模组件作为拖放开发艺术的堆栈。本文中作为研究方法的重要一般步骤序列如下：&1 数据准备2 创建项目并加载数据集3构建深度学习分类器4调整模型5检查结果6 举一反三7 代码访问8 将模型部署为REST API。数据准备是一个预处理阶段，在这个阶段中，通过清理和格式化来处理原始数据。DLS接受逗号分隔变量（.csv）文件形式的数据。我们使用了应用程序[26]（Irfan视图）用于批量命名和自定义图像功能。创建项目和其余步骤遵循DLS仪表板的快速熟悉性。将模型部署为REST API是未来的工作。我们在研究中试验了以下一组模型。3.2. 我们的测试模型MODEL 1：INPUT（）、BATCHNORM（3）、CONV2D11（32，3）U、CONV2D2（32，3）U、CONV2D3（64，3）U、CONV2D4（ 64 ， 3 ） U 、 MAXPOOL 1 （ 2 ） 、 CONV2D5 （ 128 ， 3 ） U 、CONV2D6 （ 128 ， 3 ） U 、 CONV2D7 （ 256 ， 3 ） U 、 CONV2D8（256，3）U、MAXPOOL 2（2）、FLATTEN（）、DROP（0.3），DENSE（2）DENUS，OUTPUT（）.MODEL 2：INPUT（），BATCHNORM（0），CONV2D1（32，3 ） BLUX U ， CONV2D2 （ 32 ， 3 ） BLUX U ， MAXPOOL （ 8 ） ，CONV2D3（ 64， 3 ）BLUX U ，CONV2D4 （64 ，3 ） BLUX U ，4*（RESNET50（TRUE，3，224，224））DROP（0.3），FLATTEN（），DENSE（128）BLUX U，DENSE（8）BLUX MAX，OUTPUT（）.MODEL 3：INPUT（），BATCHNORM（0），CONV2D1（32，3 ） BAUGU ， CONV2D2 （ 32 ， 3 ） BAUGU ， MAXPOOL （ 8 ） ，CONV2D3 （ 64 ， 3 ） BAUGU ， CONV2D4 （ 64 ， 3 ） BAUGU ， 4*（SQUEEZNET（TRUE，3，224，224））DROP（0.3），FLATTEN（），DENSE（128）BAUGU，DENSE（8）BAUGMAX，OUTPUT（）.MODEL 4：INPUT（），BATCHNORM（0），CONV2D1（32，3）CONV2D2（32，3）CONV2D4（64，3）MAXPOOL（8）DENSENET 201（TRUE，3，224，224）DROP（0.3）、FLATTEN（）、DENSE（128）、DENSE（8）、DENSEMAX、OUTPUT（）。MODEL 5：INPUT（），BATCHNORM（0），CONV2D 1（32，3）U，CONV2D2（32，3）你好，MAXPOOL（8），CONV2D3（64，3）10.00 USD，CONV2D4（64，3）你好，4*（INCEPTIONV3（TRUE，3，224，224））DROP（0.3），FLATTEN（），DENSE（128）DESIGN U，DENSE（8）DESIGN MAX，OUTPUT（）.上面的模型1是使用2D卷积网络作为初始实验构建的，并在两个数据集上进行了测试。在两个数据集上呈现了该模型的ROC分析，如图2和3所示。4和5.其余的模型使用预训练的网络，这些预训练模型的实验结果如表1所示。4. 实验结果&上面的预训练模型（模型2-模型5）是使用HAM 10000数据集进行训练数据分为80：10：10：：培训：验证：测试比例。上述各模型的结果见表1。图3示出了训练实例。4.1. 培训为了开始训练模型，需要启动计算实例并按下红色电源按钮。电源按钮将变为绿色，使用远程GPU的训练实例将启动。仪表板显示训练过程中的进度、准确性变化和epoch的完成情况。如果跑步中出现任何错误，训练将停止。如果一切正常，训练将在停止标准后停止。5. 讨论使用DLS构建的模型与基准机器学习数据库（HAM 10000）进行了测试，结果非常令人满意。较高的ROC值表明分类器模型很少不能将癌症诊断为癌症，将非癌症诊断为非癌症。在预训练的模型中，squeeznet，densenet和inception v3模型与resnet模型相比具有更高的ROC。这些观察结果表明，使用DLS构建的模型产生的结果比相关工作中的许多发现更好。DLS建模简单有效。M.A. Kadampur和S.赖耶医学信息学解锁18（2020）100282图二、 构建深度学习模型：步骤。3M.A. Kadampur和S.赖耶医学信息学解锁18（2020）1002824图三. 训练模型的实例。见图4。 dimizC数据集上MODEL 1的ROC分析。M.A. Kadampur和S.赖耶医学信息学解锁18（2020）1002825表1图五. Kaggle数据集上MODEL 1的ROC分析。手稿预训练的深度学习分类器的度量值。模型（精确度）（F1-评分）(ROCAUC）MODEL 2（resnet）94.2494.2298.61MODEL 3（squeeznet）97.4094.5799.77MODEL 4（densenet）97.5196.2799.09型号5（初始版本3）98.1995.7499.236. 结论今后的工作&本文介绍了一种工具，非编程背景的人可以在其中开发复杂的深度学习模型。它通过暗示深度学习模型开发中的一般程序和循环模式，为设计深度学习分类器提供了灵活性。 2）的情况。本文使用了Deep Learning Studio，这是一种用于深度学习的模型驱动架构。本文介绍了DLS工具的特点，并演示了使用该工具构建深度学习模型的过程。本文叙述了利用皮肤细胞图像进行数据预处理的过程及其在DLS模型中检测癌细胞的试验应用。DLS模型在从癌细胞图像检测癌细胞本文指出，提供了获得编程代码的模型，为进一步探索的编程专家。提供下载训练模型和开发企业级应用程序是本文观察到的未来工作的最佳种子级研究。最后，本文达到了引言部分的既定目标.医学信息学的伦理声明在此，我穆罕默德·阿里·卡丹普尔博士保证，在云中使用模型驱动架构的真皮细胞图像1) 本材料是作者2) 目前没有考虑在其他地方出版该文件。3) 本文反映了作者真实和完整的方式。4) 这篇论文恰当地归功于合著者和合作研究者的有意义的贡献。5) 这些结果被适当地放置在先前和现有研究的背景下。6) 所有使用的来源都正确披露（正确引用）。文字的字面复制必须通过使用引号和适当的引用来表示。7) 所有作者都亲自并积极参与了导致论文的实质性工作，并将对其内容承担公共责任。违反道德声明规则可能会导致严重的后果。为了验证原创性，您的文章可能会被原创性检测软件iThenticate检查。另见http://www.elsevier.com/editors/plagdetect。本人同意上述声明，并声明本申报遵循《作者指南》和《道德声明》中概述的Solid State Ionics政策。收到的资金一个也没有。M.A. Kadampur和S.赖耶医学信息学解锁18（2020）1002826竞合利益所有作者都参与了（a）数据的概念和设计，或分析和解释;（b）起草文章或对重要知识内容进行批判性修改;以及（c）批准最终版本。这份手稿尚未提交给其他期刊或其他出版场所，也没有在其他期刊或其他出版场所进行审查。作者与任何与手稿中讨论的主题有直接或间接经济利益的组织没有联系。以下作者与在手稿中讨论的主题中有直接或间接经济利益的组织有联系：确认我们感谢DeepCognition创建了本研究中使用的深度学习程序。附录A. 补充数据本 文 的 补 充 数 据 可 在 https ： //doi 网 站 上 找 到 。org/10.1016/j.imu.2019.100282。引用[1] Masood A，Al-Jumaily AA.皮肤癌的计算机辅助诊断支持系统：技术和算法综述国际生物医学杂志Imaging 2013：1-22. https://doi.org/10.1155/2013/323268网站。[2] 放大图片作者：J.癌症统计，2012年。Cancer J. Clin.2012：10-29.https://doi.org/10.3322/caac.20138网站。[3] 放大图片作者：John R，John D.癌症统计，2018年。Cancer J. Clin. 2018：7-30.https://doi.org/10.3322/caac.21442网站。[4] 2005年10月27日，李文忠. 使用深度神经网络对皮肤癌进行皮肤科医生级别的分类性质2017年：115-26页。https://doi.org/10.1038/nature21056网站。[5] W. H. Organization. WHO. [link].https://www.who.int/uv/faq/skincancer/en/index1.html。[6] 马克斯河黑色素瘤流行病学、临床与实验皮肤病学。临床皮肤病学2000：459-63。 https://doi.org/10.1046/j.1365-2230.2000.00693。X.[7] Kittler H，Pehamberger H，Wolf K，Binder MJTIO.诊断准确性皮肤镜检查临床皮肤病学2002：159-65。https://doi.org/10.1046/j.1365-2230.2000.00693. X.[8] ErkolB，Moss RH，Stanley RJ，Stoecker WV，Hvatum E.金斑使用梯度矢量流蛇的皮肤镜检查图像中的边界检测。皮肤研究技术2005：17-26。[9] ZormanMMM，Kokol SP，Malcic I. 决策树和自动学习在现实世界医疗决策中的局限性。医学系统杂志1997：403-15.[10] 盖尔克 分类和回归树 IGI global; 2009年。[11] 拉森湾 广义贝叶斯分类器。在：ACMSIGKDD探索新闻信，7的1。美国：ACM;2005年。p. 七十六比八十一T.[12] 尼尔RM。施普林格德国海德堡。一 九 九 六 年。[13] Ruiz D，Berenguer V，Soriano A，Sanchez B.黑色素瘤诊断的决策支持系统：比较方法。E X pert Syst Appl Nov-Dec 2011;38（12）：15217-23.[14] Gilmore S，Hofmann-Wellenhof R，Soyer HP.黑色素瘤识别中决策支持的支持向量机。EX实验性皮肤病学; 2010年。p. 830- 5[15] Silver D，Huang A，Maddison CJ，Guez A，Sifre L，van den G.Mastering thegame of深度神经网络和树搜索。Nature 2016：484-9. 网址：//doi.org/10.1038/nature16961。[16] [10]李文，李文.深度学习、稀疏编码和SVM用于皮肤镜图像中的黑色素瘤识别。 Springe LNCS; 2015. https://doi.org/10.1007/978-3-319-24888-2015网站。[17] Souza AMFF，Bostian FMS，Sugomori KY.深度学习实用神经网络与Java第三版。Pack Publishing;2017。[18] Ramasubramaniam K，Singh A.机器学习使用R第二版。Acta Press;2018。[19] 肖莱湾用Python进行深度学习第二版。曼宁出版公司;2017年。[20] Esteva A，Kuprel B，Novoa RA，KoJ， Swetter SM，Blau HM，Thrun S.使用深度神经网络对皮肤癌进行皮肤科医生级别的分类。第115章.https://doi.org/10.1038/nature21056网站。[21] 余亮，陈红，窦强，秦军，衡平安.黑素瘤的自动识别皮肤镜图像通过非常深的残留网络。IEEE Trans Med Imaging2017：994-1004。https://doi.org/10.1109/TMI.2016.2642839网站。[22] [10]杨文，李文，李文.人对机器：与58名皮肤科医生相比，深度学习卷积神经网络用于皮肤镜黑色素瘤识别的诊断性能。Ann Oncol 2018：1836-42. https://doi.org/10.1093/annonc/mdy166网站。[23] 作者：Dorj U-O，Lee K-K，Choi J-Y，Lee M.使用深度卷积神经网络进行皮肤癌分类。多媒体工具和应用; 2018。第9909-24页。https://doi.org/10.1007/s11042-018-5714-1网站。[24] Han SS，Kim MS，Lim W，Park GH，Park I，Chang SE.基于深度学习的皮肤良恶性肿瘤临床图像分类算法 J Investig Dermatol 2018：1529-38. https://doi.org/10.1016/j。jid.2018.01.028网站。[25] Brinker1 TJ，Hekler1 A，Utika JS，Grabe N，Schadendorf D，KlodeJ，Berking C，Steeb T，von Kalle1 AHEC.使用卷积神经网络进行皮肤癌分类：系统综述。JMed Internet Res 2018：e11936.https://doi.org/10.2196/11936.[26] IrfanView。 [link]. https://www.irfanview.net/网站。