基于SVM和神经网络的肺癌分类混合算法研究

⃝可在www.sciencedirect.com上在线获取ScienceDirectICTExpress 7（2021）335www.elsevier.com/locate/icte基于SVM和神经网络的肺癌分类混合算法Pankaj Nangliaa，Sumit Kumarb， Amarna N. Mahajana，Paramjit Singha，DavinderRatheeaa印度喜马偕尔邦Maharaja Agrasen大学电子和通信系，邮编174103b印度旁遮普邦帕格瓦拉可爱专业大学电子电气工程学院，邮编144411接收日期：2019年10月12日;接收日期：2020年3月3日;接受日期：2020年6月15日在线预订2020年11月6日摘要本研究的重点是组合前馈反向传播神经网络作为肺癌的判断的潜在用途的事实调查结果。在这种情况下，支持向量机与前馈反向传播神经网络集成，以创建一个混合算法，进一步帮助降低分类的计算复杂度。一利用500幅图像的集合，其中75%的数据用于训练目的，其余25%用于实现分类。在在此基础上，提出了一种三块分类机制，第一块对数据集进行预处理，第二块利用SURF技术提取特征，然后利用遗传算法进行优化，最后一块利用FFBPNN进行分类。该混合分类算法被称为核属性选择分类器，所提出的算法的总体分类准确率为98.08%。在此，该研究的目的是通过应用混合分类算法c2020年韩国通信与信息科学研究所（KICS）。出版社：Elsevier B.V.这是一个开放的访问CC BY-NC-ND许可证下的文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。关键词：核属性选择分类器;肺癌;混合分类;块结构1. 介绍肺癌被称为最致命的疾病之一。当癌症肿瘤处于早期阶段时，早期预测可以挽救许多生命[1癌症诊断除了患者检查外，还伴有血液检查，X射线，活检，CT扫描[4]。对于放射科医生来说，最复杂的部分是从胸片图像中识别肺结节[3]。肺结节可以理解为小的组织块，在皮肤上可见白色阴影，CT扫描和X射线成像。统计分析本身面临着处理这种高维数据的众多挑战。此外，当射线照片具有挑战整体决策的低特征时，并发症增加，一名医疗保健专业人员。早期的研究证明，由于图像的低质量，放射科医生在阳性病例中有三分之一的比例不能发现小因此，我们认为，∗ 通讯作者。电子邮件地址： lpu.co.in（S. Kumar）。同行评审由韩国通信和信息科学研究所（KICS）负责https://doi.org/10.1016/j.icte.2020.06.007需要对包含图像的肺结节进行预处理[5，6]。在这种情况下，Bhattacharjee等人提出了一种计算机辅助设计模块（CAD），该模块处理形态学算子，以对肺结节进行预处理。在未来，他们将涉及分割方法和后处理与人工神经网络的实施。[1]的文件。作者利用支持向量机（SVM）、决策树、最近邻和随机森林四种不同的分类算法对应用直方图均衡化对图像进行平滑处理，以进行特征 提 取 。 Gupta 等 人 提 出 了 一 种 新 的 Crow 搜 索 算 法（ CSA ） ， 用 于 在 预 处 理 之 后 选 择 可 疑 的 诺 维 部 分（SNP）的特征，然后通过主成分分析（PCA）进行特征提取过程。作者将他们的工作限制在单一模式;然而，这项工作可以应用于其他疾病，同时合并分类和深度学习方法，以提高准确性，同时减少计算时间。[2]的文件。Nanda等人还提出了一种CAD模型，用于检测以下肝脏疾病：2405-9595/2020韩国通信和信息科学研究所（KICS）。出版社：Elsevier B.V.这是一个开放的访问CC BY-NC-ND许可证下的文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。P. Nanglia，S.Kumar，A.N.Mahajan等人ICT Express 7（2021）335336基于阈值的SNP，随后是分类模型，其在病变分割的情况下展示了令人鼓舞的0.6979的 DICE分数然而，目前的研究是基于一个较小的肿瘤数据集。[3]的文件。SNP也被Thabshe era等人和Gupta称为感兴趣区域（ROI）。等人[2，7]。机器学习（ML）和神经网络（NN）的使用在肺癌分类方面并不是特别新，但在不同的算法中，NN和SVM获得了最多的关注[8阿尔祖比等人已经开发了一种增强的NN概念，该概念优化了在中间层生成的NN的权重，以实现更好的疾病诊断准确性，对于更大的数据集具有最小的FPR。目前的工作缺乏对涉及各个方面的提议架构的测试[8]。Boosted NN是一种算法架构，它的灵感来自于Zi eBubba等人提出的Boosted SVM。作者已经证明，这种方法可以通过增加实验成功地应对现实生活中的实际挑战[9]。Boosted SVM利用核边缘变化的概念，并选择核区域附近的最佳特征。该技术旨在基于利用集成分类器和成本敏感SVM [10]来提供不平衡数据问题的解决方案。在过去的几年里，特征的混合也被注意到。Yuan等人已经揭示了一种混合特征提取技术，该技术通过使用尺度不变特征提取（SIFT）来评估LN的特征。Fisher Vector（FV）编码用于杂交SIFT的特征。实验评价表明，使用LIDC-IDRI和ELCAP的分类率更高，达到93%，未来可用于自动结节标记[11]。Karim等人对SIFT和加速鲁棒特征（SURF）的特征进行了系统综述，SURF是SIFT算法的扩展。对827张图像进行了一项研究，以96%的灵敏度识别了结节，并且没有假阳性结果[12]。因此，上述讨论得出结论，SURF基于分类结果计算更有效的特征。在这种情况下，Nanglia等人使用SURF算法进行特征提取，然后使用遗传算法（GA）进行特征优化。利用SVM对两种不同疾病（即“良性”和“恶性”）的LN进行分类通常可以观察到，分类过程主要分为两个后续部分，包括特征提取，然后是优化和分类[11特征提取过程进一步分为命名特征提取（NFE）和特征向量提取（FVE）。NFE支持诸如对比度、偏心度、大小和圆度等特征。FVE支持一组特征向量，这取决于提取算法的性质。在这项研究中，预处理进行了广泛的探索和选择的特征集已被计算应用高效的特征提取SURF和优化过程GA。分类部分区分关联特征的类别。本文旨在将支持向量机（SVM）和神经网络（NN）这两种分类算法相结合，即前馈（FF）和反向传播（BP）。将BP神经网络与FF神经网络相结合，构成前馈-反向传播神经网络（FFBPNN）.将支持向量机和模糊神经网络相结合，称为核属性选择分类器（KASC），它利用支持向量机的核值，并将其传递给神经网络进行更好的分类。本文件分为四个不同的部分。第一部分是关于肺癌的一般性介绍，并讨论了与肿瘤分类有关的相关研究，第二部分描述了所提出的方法，第三部分讨论了所获得的结果。第四部分对全文进行了总结，并对今后的工作提出了一些启示。2. 材料和方法所提出的分类算法KASC分为三个块：a. 以BLOCK-PP为代表的数据预处理（预处理）b. 特征提取和优化由BLOCK-FEO（特征提取和优化）c. BLOCK-HB（Hybridization）提出了SVM和NN的混合预测。2.1. 数据库本文提出的KASC分类方法已用于康奈尔大学设计和开发的EL-CAP肺图像数据集。该数据集的首次发布是在2003年，其中包含500张低剂量CT扫描图像（记录），层厚为1.25 mm [18]。2.2. 数据处理在大多数CAD模型中，选择适当的特征和分类器的预期是主要的挑战。为了处理这种情况，KASC遵循一个块模型，其流程图如图所示。1.一、图像被存储到一个存储库中，该存储库包含两个类别，即“良性”和“恶性”，分别称为c1和c2。75%的c1和c2数据集已提供给Block-PP用于训练目的，其余25%的数据集已初始化用于测试目的。块- PP使用模糊逻辑支持的形态学操作执行图像分割，然后进行感兴趣区域（ROI）提取[19]。已将c1和c2的提取ROI传递到块FE-O，以通过应用高效SURF技术和GA算法进行特征提取和有效特征优化[19此外，通过应用SVM和FFBPNN，已将优化的特征集传递到Block-HB用于杂交过程提取的区域和ROI选择如图所示。 2（a），（b）和（c），这又通过SURF传递到特征提取阶段，如图所示。二、P. Nanglia，S.Kumar，A.N.Mahajan等人ICT Express 7（2021）335337Fig. 1. KASC块体构造图二. 图像操作。表1FFBPNN的有序度量i.训练模型Levenbergii.性能参数梯度/时间iii.计算类型MEX图3.第三章。 SVM属性选择（a）线性（b）多项式核。内核通过这种方式，SVM降低了数据大小的复杂性通过应用多项式核属性，提高了有效提取特征集的数量，以获得更好的分类效果。在这种情况下，只有内核选择的支持向量被传递到FBNN，这是已知的原始数据的预处理此外，FBNN将处理所选择的核特征，从而在很大程度上降低了混合算法的复杂度。FBNN的顺序测量值见表1。SVM的训练数据不能直接传递给FBNN，因此需要适当地选择所选的核值此外，KASC既有培训模块，也有分类模块。KASC的培训部分又分为两个部分。第一段训练SVM，第二段训练FBNN以及图1（b）所示的选定核值。在这种情况下，下面将给出通过SVM训练数据集的算法：2.3. 部件HB在本模块中，SVM技术已经在 在初始阶段，通过应用高效的SURF和GA算法来优化特征集，然后由块FE-O提供该特征集。这里，SVM利用两个独立的内核进行分类，即线性和多项式，如图所示。 3（a）和（b）。SVM仅偏好接近核的特征集的值，并且在图3中清楚地示出。在这里，SVM只使用多项式核，而不是线性核。伪代码被写来表示所提出的KASC结构的训练体系结构。最初，所有变量都被初始化为空，并考虑恶性和良性两个类这两个类分别命名为C1和C2。 训练数据SV M是将包含在BLOCK-FEO中提取的所有特征的变量。数据标签SV M是将包含以下P. Nanglia，S.Kumar，A.N.Mahajan等人ICT Express 7（2021）335表2338：∗∗列车数据SV M和 相关标签特征值关联的标签1.221.331.44C11.281.291.40C12.322.432.56C22.342.442.51C2表3不同神经元计数的R值神经元计数R培训R用于验证R用于测试总体R100.83220.81650.81230.820312.089110.87880.86770.8792150.97610.98880.97840.9794170.95660.96120.95430.9573图四、神 经 元计数的回归值为15。C1和C2对应于相关联的特征集。在这种情况下，图像的特征值[1. 221. 33 1. 411. 28 1. 291. 40]已被考虑并标记为C1 。 类 似 地 ， 另 一 个 图 像 的 特 征 集 [2.32 2.43 2.56;2.342.44 2.51]已经被考虑并标记为C2。在这项工作中，实验已经进行了500 CT扫描图像。这样，每张图像总共有500个特征向量，500 500数据向量用于500个CT扫描图像作为训练数据，500 1作为每个图像的相关标签。此外，在表2中明确提到。在下一个阶段，所选要素集或属性然后传递到FFBPNN，该FFBPNN提取过去特征集的权重值。在这里，均方误差（MSE）作为FFNN的交叉验证器，梯度作为 FFBPNN 的 交 叉 验 证 器 ， 同 时 传 播 回 来 [22 梯 度 是FFBPNN测量数据变化中无序度的参数之一[22最佳学习迭代的值已存储为训练结构。FFBPNN的算法架构如下所述：该算法初始化了从SVM训练中提取的选定特征。由SVM提供的同一组标签也已传递给神经网络，用于选定的属性集。共为训练提供了数百次传播迭代。来菲格图4示出了FBNN的传播结构，其已经在具有用于传播的不同数量的神经元的此外，迭代或传播的次数可以随着神经元计数的变化而变化。神经元总值的最终确定取决于回归值R。 此外，回归测量一个数据对其他数据的影响。在这种情况下，FFBPNN考虑三个回归值，包括训练，验证和测试值，以更好地分类。通过计算所有三个回归值的平均值计算R值。训练回归值由传递的特征值和传播的特征值生成。FFBPNN根据Levenberg架构创建一些验证规则，并在验证过程之后根据提供的特征值计算R值。FFBPNN还随机选取一些数据值作为测试数据，通过计算其R值来观察测试数据对提供的输入值在这项工作中，KASC的混合架构已通过改变神经元的数量与不同的回归值进行了测试。此外，已经观察到，对于最佳预处理，R值可以通过以下方式实现：选择的神经元计数15，并且在表3中清楚地列表。这里，混合架构（KASC）针对所选择的数据集使用神经元计数15。在对测试数据进行分类处理时，采用了相同的结构，最后，基于这种混合分类结构，计算了总的分类精度、真阳性率和假阳性率。3. 结果和讨论本文的主要目的是提高混合模型的分类精度。已经根据以下参数测量了所实现的混合架构的实验评估[22]：P. Nanglia，S.Kumar，A.N.Mahajan等人ICT Express 7（2021）335表4339==：比较多项式核KSCC、线性核KSCC 和Nanglia等KSCC 的查准率、查全率和F测度。训练样本具有多项式核的KSCC具有线性核的2018精度召回F-measure精确召回F-measure精度召回F-测度1000.96480.94680.9560.95480.92840.9420.9240.9151 0.922000.97540.94560.9610.9586 0.92990.9450.93540.9185 0.9273000.98450.95520.970.9715 0.94190.9570.94910.9345 0.9424000.98970.98120.9860.9815 0.95970.9710.95480.9451 0.955000.99450.99620.9960.9862 0.9780.9830.95980.9689 0.965（总人数） 真 分类样品）托塔尔提供的样品(b) 精确真位置真Positiv e+ False Positiv e(c) F-measure2精确度和召回精确度+召回率(d) 精度托塔尔 真 分类样品总数提供分类样品的总数在此背景下，基于多项式核KASC、线性核KASC和Nanglia的混合模型的精确度、召回率、f-度量和准确度的参数值进行了比较分析等，并已总结在表4和表5中。这项研究的主要结果如下：(a) 从表4中可以看出，采用多项式的KASC的精度相对高于采用Lin-ear内核的KASC图5显示了Y轴上绘制的精度与X轴上采集的训练样本数量的比较图。该图显示，具有多项式核和线性核的KASC的平均精度值分别为0.9818和0.97052，而Nanglia等人的平均精度值为0.94462。[15]。对于本研究中的所有三种情况，观察到随着样本数量从100增加到500，(b) 这项研究的另一个重要发现如图所示。 6通过所有三种情况的召回参数值。该图显示，当训练样本从100增加到200时，召回值略有上升。当训练样本从200增加到500时，所有样本的召回值都会在具有多项式核的KASC的情况下，观察到的平均值为0.965，具有线性核的KASC为0.978，参考文献[15]为0.936。简而言之，可以得出结论，多项式核的KASC在三者中表现出最好的结果。(c) 计算了F-测度，以评价所用方法的灵敏度。 图 7显示比较分析了三个AP-1的F-测量值，接近具有多项式核和线性核的KASC的F-测度分别显示平均值为0.971和0.959，这优于参考文献[15]获得的f-测度结果表明，平均f-测度图五. 精确度比较。见图6。 回忆比较。多项式核的KASC比线性核的KASC好2.62%，而线性核的KASC比参考文献[15]好3.3%。(d) 在这项研究中，最重要的参数精度已计算和比较的所有三种方法包括多项式核KASC，线性KASCKernel和Nanglia等人以前的工作。图8示出了随着训练样本数量的增加，技术的准确性增加。实验结果表明，多项式核KASC算法具有较好的平均精度(a)回忆=×100P. Nanglia，S.Kumar，A.N.Mahajan等人ICT Express 7（2021）335340表5多项式核KASC、线性核KASC和Nanglia等的精度比较。4. 结论利用SVM和神经网络对一个优化的数量精度的方式已经深入研究，以创建一个有效的混合训练样本多项式核线性核楠利亚等人20181000.96240.95450.94152000.97480.96980.94983000.98140.97460.95684000.99150.97890.96875000.99420.98850.9854见图7。 F-measure比较见图8。 准确度比较。线性核的KASC为0.97%，参考文献的KASC为96.04%。这表明具有多项式核的混合模型KASC表现出比具有线性核的KASC高0.76%的平均准确度，而线性核的KASC又比Nanglia等人的参考工作高2.04%。最后，KASC在分类准确度方面表现出显著的改进，通过应用有效的特征提取技术SURF，对于500个样本，KASC的分类准确度达到98.3% 。 高 效 的 特 征 优 化 GA 和 SVM 与 多 项 式 核 以 及FFBPNN。肺癌分类的方法。通过改变神经元数目来检验分类结果，并根据回归值进行最终选择。在此背景下，作者扩展了本文的前一个版本，其中SURF和SVM已经实现。在这里，实现的混合算法已被命名为KASC。KASC的性能进行了评估和比较的形式参数，如精度，准确率，召回率和f-测量的训练样本范围从100到500。这种独特的KASC混合算法技术的实现是由于有效的SURF特征提取技术，有效的优化技术GA和SVM的多项式核与FFBPNN相结合。对500个样本的CT图像进行肺癌分类，其平均因此，这项研究工作有几个未来的方面，看看深度神经网络与FFBPNN相比的效果CRediT作者贡献声明Pankaj Nanglia：概念化的想法。Sumit Kumar：概念化的想法，编辑了整个手稿，并在几个部分添加了他的专业知识，包括引言部分，结果讨论和结论部分。阿帕纳河Mahajan：概念化的想法。Paramjit Singh：根据不同层次的格式进行文献检索、图形修改、参考样式和手稿设置。Davinder Rathee：根据不同层次的格式进行文献检索、图形修改、参考样式和稿件设置。竞合利益作者声明，他们没有已知的可能影响本文所报告工作致谢Nanglia，Aparna N. Mahajan，P. Singh和D. Rathee非常感谢R博士。K.古普塔，副校长和什里。Suresh Guta Ji，印度喜马偕尔邦索兰Maharaja Agrasen大学项目负责人，感谢他们在整个工作中不断的支持和指导。此外，作者Sumit Kumar博士，LPU副教授，旁遮普省要感谢AshokMittal Ji先生，校长，可爱的专业大学，Phagwara，旁遮普省，印度，在执行工作期间提供了所有必要的设施和支持。P. Nanglia，S.Kumar，A.N.Mahajan等人ICT Express 7（2021）335341引用[1] A.巴塔查吉Majumder，自动化计算机辅助肺癌检测系统，载于：通信、设备和网络的进展，Springer，新加坡，2019年，第 10 0页。425-433[2] N.古普塔角古普塔A。Khanna，P. Rebouças Filho，C.V.D. de Albu-querque，用于自动肺部疾病检测的进化算法，测量140（2019）590-608。[3] N. Nanda，P. Kakkar，S. Nagpal，使用级联卷积神经网络和遗传优化分类器的CT扫描中肝脏病变的计算机辅助分割，Arab. J. Sci.Eng.44（4）（2019）4049-4062.[4] P. Nanglia，S.库马尔，D. Rathi，P. Singh，比较研究肺癌检测系统的 不同 特征 提取 技术 ，计 算研 究的 高级 信息 学（ ICAICR2018 ） ， 在 ： A. Luhach ， D. P.A. 辛 格Hsiung ， K. Hawari ， P.Lingras，P. Singh（Eds.），在计算机和信息科学通信，955，施普林格，新加坡，2018年，页。第296[5] X. Huang，J. Shan，V. Vaidya，使用CT进行肺结节检测3D卷积神经网络，在：2017年IEEE第14届国际生物医学成像研讨会（ISBI 2017），IEEE，2017年，pp。379 -383.[6] U.J. Reddy，B.R.V.R. Reddy，B.E. Reddy，使用模糊神经网络的机器学习机制识别肺癌，Trait。信号36（1）（2019）87-91。[7] A.A. Thabsheera，T.M.塔斯利马河Rajesh，使用CT扫描图像进行肺癌检测：对各种图像处理技术的回顾，载于：数据分析和学习，2019年，第 10 0 页。413-419[8] AJA柳比湾Bharathikannan，S.坦瓦尔河Manikandan，A. 卡纳角Thaventhiran，增强型神经网络集成分类用于肺癌疾病诊断，应用软件计算。80（2019）579-591。[9] 作者：MaciejZieZeba，Jakub M. 托姆扎克，马雷克·卢比茨，耶日·斯韦阿·阿托特克，Boosted SVM for extracting rules from imbalance data in applicationtoprediction of post-operative life expectancy in the lung cancerpatients，Appl. 软计算14（2014）99[10] M. J.M. 托姆恰克，M.Lubicz，J.S'wiaLittek，Boosted SVM for从不平衡数据中提取规则在肺癌患者术后预期寿命预测中的应用，Appl. 软计算14（2014）99-108。[11] J.袁，X. Liu，F. Hou，H. Qin，中国山核桃A. Hao，CT图像上的混合特征引导肺结节类型分类，Comput. Graph. 70（2018）288-299。[12] D.Y.金，J. H.金，S. M. Noh，J.W. Park，使用胸部CT图像进行肺结节检测，放射学学报。44（3）（2003）252[13] A.寺本，H. Fujita，使用圆柱形结节增强滤波器在胸部CT图像中快速检测肺结节，Int. J. Comput.帮忙放射性Surg. 8（2）（2013）193[14] A.A.A. Karim，R.A. Sameer，使用视觉词袋（BoVW）进行图像分类，J。Al-Nahrain大学Sci. 21（4）（2018）76[15] P. Nanglia，S.库马尔，D. Rathi，P. Singh，使用前馈反向传播神经网络进行CT图像肺癌分类，Int. J. Med. Eng. Inform.（2018）http://dx.doi.org/10.1504/IJMEI.2021。10020669[16] P. Lobo，S. Guru prasad，从CT图像中检测肺癌的分类和分割技术，在：2018年国际计算机应用发明研究会议（ICIRCA），IEEE，2018年，pp. 1014-1019[17] D.B. Richardson，A.P. Keil，S.R. Cole，J. Dement，《石棉标准：目前未计算的温石棉纤维对终生肺癌风险的影响》，美国。J. 印第安纳Med. 61（5）（2018）383[18] 数据集，2019年，URL：http://www.via.cornell.edu/lungdb.html，2019年10月访问[19] M. Greaves，W. Hughes，Cancer cell transmission via the platelet，Evol. Med. 公共卫生2018（1）（2018）106[20] A. Olland，P.E.法尔科斯湾Massard，肺移植后的恶性肿瘤，J.Thorac. Dis. 10（5）（2018）3132.[21] D.B. Richardson，A.P. Keil，S.R. Cole，J. Dement，《石棉标准：目前未计算的温石棉纤维对终生肺癌风险的影响》，美国。J. 印第安纳Med. 61（5）（2018）383[22] K.谢勒A. Yaroshenko，D.A. Bölükbas，L.B. Gromann，K.地狱，F.G. Meinel，F. Pfeiffer，X射线暗视野放射照相术-小鼠肺癌的体内诊断，Sci. 众议员7（1）（2017）402.[23] X. Xu，Y. Wu，T.他，Y. Li，F. Hu，H. Liang，H.钟，基于超材料的太赫兹传感器用于早期肺癌的快速诊断，中国。选购配件Lett.15（11）（2017）111703.[24] D.L. Yuwen，B. B. Sheng，J. Liu，W.文宇，Y.Q. Shu，MiR-146a-血清外泌体中的5p水平预测顺铂在非小细胞肺癌中的治疗效果，Eur.医学药理学修订版Sci. 21（11）（2017）2650-2658。