深度CNN和DWT优化特征的混合的随机森林分类器检测胸部X射线中的Covid-19

沙特国王大学学报通过使用深度CNN和DWT优化特征的混合的随机森林分类器在胸部X射线中检测Covid-191999年12月20日，第199Mahfuz Rezaa，Mohammad Motiur Rahmanaa孟加拉国Mawlana Bhashani科技大学计算机科学与工程系b孟加拉国达卡国际大学计算机科学与工程系c孟加拉国贾汉吉尔讷格尔大学计算机科学与工程系阿提奇莱因福奥文章历史记录：收到2020年2020年12月16日修订2020年12月16日接受2020年12月31日在线提供保留字：COVID-19卷积神经网络（CNN）离散小波变换（DWT）最小冗余最大相关性（mRMR）递归特征消除（RFE）随机森林分类器A B S T R A C T胸部X线图像包含了丰富的信息，在各种疾病的诊断和决策中有着广泛的应用，可以辅助医学专家。本文提出了一种利用深度卷积神经网络（CNN）和离散小波变换（DWT）特征的混合来从胸部X射线图像中检测Covid-19的智能方法。首先通过预处理对X射线图像进行增强和分割，然后提取深度CNN和DWT特征。通过最小冗余和最大相关（mRMR）以及递归特征消除（RFE）从这些混合特征中提取最佳特征。最后，使用基于随机森林的装袋方法进行检测任务。进行了大量的实验，结果证实，我们的方法提供了令人满意的性能相比，现有的方法与超过98.5%的整体准确性版权所有©2021作者。由爱思唯尔公司出版代表沙特国王大学这是一个开放的访问CC BY-NC-ND许可证下的文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。1. 介绍冠状病毒或Covid-19是由严重急性呼吸系统综合征（SARS）引起的病毒性疾病。Covid-19与bat-SL-CoVZC 45病毒的相似度为87.99%，与蝙蝠冠状病毒的相似度为96%（Li，2019）。这就是为什么人们认为这种病毒是通过蝙蝠物种传播给人类的。冠状病毒是一组在哺乳动物和鸟类中引起疾病的相关病毒。人类冠状病毒于1960年和2003年晚些时候被发现为SARS-CoV，2004 HCoV NL 63，2005 HKU 1，2012MERS-CoV，以及最近的2019 SERS-CoV-2（Geller等人，2012年）。这些病毒的外层约为80nm，刺突约为20 nm长。这种病毒*通讯作者：孟加拉国贾汉吉尔纳加尔大学计算机科学与工程系。电子邮件地址：rawer.dka@ gmail.com（R.Mostafiz），shorifuddin@gmail.com（M.S.Uddin），munnacse44@gmail.com（N.- A-Alam），mahfuz.cse. gmail.com（马里兰州）。Mahfuz Reza），mm73rahman@gmail.com（M.M. Rahman）。沙特国王大学负责同行审查首先在湖北省省会武汉市确定中华任何人都可以通过与受影响的人密切接触而受到影响。世界卫生组织（WHO）已宣布COVID-19为威胁公共卫生的大流行病（Yoo，2019）。典型的COVID-19临床综合征是 高 烧 、 咳 嗽 、 咽 喉 痛 、 头 痛 、 疲 劳 、 呼 吸 急 促 、 肌 肉 疼 痛 等（Singhal，2020）。实时逆转录-聚合酶链反应（RT-PCR）是诊断Covid-19最常用的标准检测技术。 但是，由于RT-PCR的低灵敏度，通过计算机断层扫描（CT）和X射线的放射图像分析在正确辅助诊断方面起着至关重要的作用（Kanneet al.，2020年; Xie等人， 2020年）。 在RT-PCR诊断中，目标ORF 1ab基因在低病毒载量的情况下以及由于SARS-CoV-2快速突变而不够敏感（Pei等人，2020年）。这将增加低灵敏度的假阴性结果因此，临床上建议用另一种已建立的方法重新检查可疑结果在参考文献（Wang et al.，2020年）使用CT图像数据集检测Covid-19。 到目前为止，CT被认为是使用RT-PCR检测Covid-19肺炎的筛选工具的既定方法（Gao et al.，2020年）。然而，研究发现，观察到的重大肺部疾病约https://doi.org/10.1016/j.jksuci.2020.12.0101319-1578/©2021作者。由爱思唯尔公司出版代表沙特国王大学这是一个在CC BY-NC-ND许可证下的开放获取文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。制作和主办：Elsevier可在ScienceDirect上获得目录列表沙特国王大学学报杂志首页：www.sciencedirect.comR. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3227×在CT扫描的症状发作后10天，尽管在2天内是正常的（Bernheim等人，2020; Pan等人，2019年）的报告。此外，X射线成像由于其可用性、快速响应和成本效益的性质而成为广泛的模态X射线数字图像的传输介质从采集点到分析点也非常灵活。最近，使用深度学习方法进行Covid-19检测的X射线成像是一种广泛使用的机制，可以消除RT-PCR检测试剂盒不足、检测结果等待时间和检测成本的限制。最先进的技术持续关注深度学习应用在使用放射成像检测胸部呼吸异常中新型冠状病毒疫情的爆发发现了对更高准确性的多类胸部疾病检测的需求。这项研究的主要挑战是提出一种自动提取最佳特征的方法，以及肺炎（包括Covid-19和正常胸部）的分类模型。然而，多类分类在该实验中更为关键，因为重叠的特征可能导致混淆的结果。在这项工作中的探索性分析，最终获得了最佳的特征向量与有前途的分类。大多数现有的Covid-19检测工作旨在解决区分Covid和非Covid病例的二元分类任务。因此，本研究的其中一个主要重点是处理多类别情况，包括Covid-19以及不同类型的肺炎。实验发现，这些综合征在胸部X光检查中可能比其他方式更明显。在这项研究中，使用自动特征提取技术，而不需要手动特征提取。该方法提出了一个混合特征提取模块，其中早期诊断是可能的。它可以使用局部纹理特征和深度神经网络特征的组合来消除胸部X射线中模糊特征的局限性。此外，预处理技术对挖掘潜在细节起着至关重要的作用.结果表明，更好的准确性，通过利用最小冗余和最大相关性（mRMR）的功能和递归特征消除（RFE）技术。集成分类器的自适应提升技术显示出最小的分类误差。 这项研究的主要结果如下：i) 提出了一种预处理方法，以提高从胸部X射线中早期检测Covid-19。ii) 通过预训练的深度CNN模型和小波变换操作开发了混合特征提取机制。iii) 使用mRMR和RFE技术优化这些功能，以提高准确性。iv) 与其他方法相比，自适应增强技术用于最终分类以减少分类误差。本文其余部分的结构如下：第2节介绍了相关的工作。第三部分介绍了研究材料和方法。实验结果在第4中给出并讨论。最后，第五对本文进行了总结。2. 相关作品使用机器学习方法的应用程序已经获得了作为临床工具的辅助地位。使用人工智能的疾病状况的自动诊断正在成为一个热门的研究领域，以实现自动化，快速和可靠的结果。深度学习技术已经用于肺炎检测（Rajpurkar等人，1711）使用X射线图像并证实了一个有希望的结果。他们使用了带有121层CNN的CheXNet，并在公开的ChestX-ray 14的数据存储库。最近，新冠肺炎疫情的迅速蔓延增加了开发专家工具的必要性。基于机器视觉的自动化系统可以帮助具有最低放射学专业知识水平的临床医生。深度学习模型在早期由Hemdan等人开发（Hemdan等人，2003年）通过胸部X光检测新冠肺炎。他们的COVID X-Net模型使用VGG 19和Dense-Net的组合，并获得了良好的分类结果，COVID-19病例的F1得分为0.91。后来，Wang和Wong（Wang和Wong，2003）使用他们开发的COVID-Net从有限数量的胸部 X 射 线 图 像 中 发 现 了 92.4% 的 分 类 准 确 率 。 Ioannis 等 人（Apostolopoulos 和Mpesiana， 2020 ） 使用 迁移 学习 模型 获得 了96.78%的准确率。他们引入了一种多分类（Covid-19，肺炎，正常）方法，并使用VGG 19和MobileNet V2找到了更好的结果。Narin等人（Narin等人，2003）提出了一种基于三CNN的预训练模型，以从X射线图像中检测Covid-19。他们使用5倍交叉验证实现了98%的准确性。塞西等人（Sethy和Behera，2020）使用ResNet 50特征和支持向量机分类器对来自X射线的Covid-19进行分类，准确率为95.38%。Asif等人（Asif等人，2020）使用深度CNN从胸部X光检测Covid-19的分类准确率为98%。Mangal等人（Mangal等人，2004年）提出了一种计算机辅助系统，使用X射线检测Covid-19，并获得了约90.5%的准确度。通过查阅文献，发现冗余特征导致更高的假阳性（FP）和假阴性（FN）率。在多类模型中，处理特征向量中的相关特征是非常关键的。此外，多领域特征的混合将有助于提高系统的鲁棒性和准确性。此外，现有的系统大都没有对特征提取进行预处理.本文件试图填补这些空白。3. 研究方法所提出的系统利用机器视觉方法从胸部X光图像中检测Covid-19病例。它将输入的胸部X射线图像分为三类，即COVID-19、非COVID肺炎和正常。非COVID肺炎亦包括病毒性肺炎及细菌性肺炎病例两个亚类这项研究的主要贡献是使用胸部X射线图像从其余类别中检测出Covid-19类别。该系统的工作流程图如图所示. 1.一、每当任何输入给系统，它将被处理成灰度级，然后调整图像的大小到一个固定的大小，224224像素。下一步是归一化强度并使用各向异性扩散技术去除噪声。然后通过直方图均衡化技术增强感兴趣区域，直方图均衡化技术是用于通过使用累积分布函数映射的直方图拉伸来增强低对比度图像的常用技术。一个分水岭算法已被用于区域分割。使用DWT和CNN技术将该分割图像传递用于特征提取。来自这两种方法的特征生成融合向量，该融合向量通过mRMR和RFE技术进行优化。最后，这个优化的向量用于Covid-19检测。3.1. 数据集准备该数据集是从几个公开可用的胸部X射线数据源准备的：科恩等人确认的Covid- 19病例X射线数据的学术洪流库（科恩等人，2003年），Kaggle Covid-19 X射线数据（“Covid-19 X射线，2020年），胸部X射线数据肺炎（病毒性和细菌性），和正常情况下，由KermanyR. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3228×ðÞðÞ@tr224224像素。然后，应用分水岭技术分割出X射线图像中的有效区域下面给出这些预处理步骤的细节3.2.1. 各向异性扩散和直方图均衡各向异性扩散是一种迭代过程，通过去除不必要的噪声和伪影来提高X射线图像I x;y;t的质量（Septiana和Lin，2014）;（Kamalaveni等人，2015）通过空变扩散滤波器或系数c d x;y;t。这里，x和y分别是图像x轴和y轴坐标，t是迭代步长。扩散系数作为局部图像梯度的函数，其与梯度的幅度成反比例如，梯度幅度在内部区域内较弱，而在边界附近较强因此，它充当热方程来平滑内部区域并去除噪声。它会停止边界上的扩散并保留边缘。 对于图像梯度I x;y;t，各向异性扩散的偏微分方程（PDE）可以由方程（1）示出，其由方程（1）中给出的扩散系数的两个边缘停止函数根据Perona和Malik（Perona和Malik）的等式（2）和等式（3），Malik，1990）。@Ix;y;tv½cdx;y;trIx;y;t]1Fig. 1. 提出的检测方法概述。cd1x;yexp（-rIKð2Þ1C x;yð3Þ等人（Kermany，2018）。 图 2展示了一些胸部X光片样本从我们的实验数据集。1小时后，我将参加第二次世界大战。这种基于神经网络的计算机辅助新冠肺炎诊断（CAD）系统依赖于大量输入数据进行训练。数据准备说明如下。由于很难获得大量的标记数据，因此，我们使用了数据增强技术，例如缩放，烧灼，翻转，旋转，改变亮度，颜色和形状在水平和垂直位置。增强后，本实验共使用4809张胸部X线图像，包括790例确诊的Covid-19病例、1215例病毒性肺炎病例、1304例细菌性肺炎病例和1500例正常病例。我们准备的数据集是可用在https://github.com/rafid909/Chest-X-ray。3.2. 数据预处理数据预处理是医学图像分析的重要组成部分之一，它有助于提取有效的特征。一个各向异性扩散以及直方图均衡化是用于去噪和亮度均匀的大小的图像，K是灵敏度常数，cd1<$x;y<$和cd2<$x;y<$表示扩散系数的两个函数。为了获得更好的感知，临床医生需要增强图像的视觉质量。在X射线图像中，各向异性扩散用于平滑精细细节，并消除不需要的低对比度和亮度。此外，直方图均衡化技术可用于克服低对比度问题（Salem等人，2019年）的报告。它将作为一种有效的对比度增强技术在医学成像操作。在自动检测系统中，可以使用增强图像的有效呈现。输入的Covid-19胸部X射线图像如图3（a）所示。图3（b）和（c）示出了分别在各向异性扩散和直方图均衡化之后的图像。3.2.2. 分水岭分割法分水岭（Zheng等人，2008）是一种对灰度图像进行变换，用于分割图像上的不同区域。图二.样本数据集;（a）Covid-19，（b）病毒性肺炎，（c）细菌性肺炎，（d）正常胸部X线。X射线图像数据集调整为224×224各向异性扩散直方图均衡分水岭分割CNN特征小波特征融合特征功能优化（mRMR +RFE）分类（包围随机森林）KR. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3229图三. 图像增强;（a）Covid-19胸部X射线，（b）各向异性扩散，（c）直方图均衡。以地质分水岭为基础，分隔相邻流域。它就像一张地形图，每一点代表它的高度，然后找出沿着山脊顶部的线。在医学图像分割中，分水岭算法提供了一个完整的划分，分离出有意义的特征区域用于诊断，因此在这里该算法被用作分离肺部区域的非平凡任务。图4示出了Covid-19X射线图像的分水岭分割技术3.3. 特征提取本节演示特征提取过程。这里，两个特征提取器，即，离散小波变换（DWT）和卷积神经网络（CNN）用于特征提取。由于感兴趣区域在不同的X射线图像中是不同的，因此在本实验中使用DWT来发现像素之间的空间关系，以获得更好的纹理特征。这些DWT特征与深度CNN特征相结合，以获得更有效的结果。3.3.1. 离散小波变换小波变换是医学图像处理中提取纹理特征的有力工具。为了找到有效的DWT特征，这里我们执行了一个三级分解任务。在每个级别，它生成一个低分辨率图像和三个详细图像（Wang等人，2019年）的报告。因此，从三个分解层次，它产生了总共九个详细的图像。在分析这些图像后，发现纹理信息在中间（第二级）细节系数中更明显。因此，该实验没有尝试分解超过三个级别，因为我们只考虑来自第二级别的系数。图5展示了分割图像的三级分解。从这三个分解系数中选择结构和灰度共生矩阵（GLCM）特征。提取了图像的均值、标准差、方差、峰度、偏度等判别统计特征和灰度共生矩阵的能量、熵、相关性、对比度、均匀性等特征。这些特征是从四个不同的方向00，450，900，1350的三个细节系数的每一个计算。它总共生成120个小波特征。3.3.2. 卷积神经网络对于特征提取，使用预训练的ResNet 50模型。该模型可以通过使用残差块来处理一般CNN的梯度消失和退化问题（Lu等人，2020年）。CNN的性能已经通过提议的残差块的深度而得到改善 CNN架构是卷积层的序列，随后是池化层，并以完全连接的神经网络结束（Mostafiz等人，2020年）。卷积层已经形成了一些可学习的过滤器。这样的卷积滤波器被应用为特征提取器，并且特征用于执行分类。在这里，我们使用了广泛使用的基准ResNet 50 CNN架构，其不言自明的示意图如图所示。 6指示层、配置和参数。它总共包含49个卷积（conv）层和一个全连接（FC）层。之后有一个最大池见图4。 分水岭分割技术的结果：（a）分割的肺，（b）感染区域，（c）肺区域中的特征。R. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3230px p y图五、DWT：（a）第一级分解，（b）第二级分解，（c）第三级分解。见图6。本实验中使用的CNN的示意性架构。第一个卷积和最后一个卷积之后或FC之前的平均池化。FC层用于特征提取。ReLU （ Rectified Linear Unit ） 激 活 函 数 （ Nair 和 Hinton ，2010）用于每个卷积层。添加了一个dropout层（Hawkins，2004）以防止过拟合问题。从输入图像的FC层中提取总共1024个CNN特征。3.4. 特征杂交和选择融合120个基于小波的特征向量和1024个深度CNN特征向量以生成大小为（120 + 1024 =）1144的混合特征向量然后使用特征优化来在特征向量中实现更多可解释的特征优化后这提高了分类精度以及计算成本。客观是选择最相关的特征并消除不相关和冗余的特征（Mostafiz等人，2019，2020;Rashed-Al-Mahfuz等人， 2019年）的报告。 我们已经 研 究 了两 种 实 用 的特 征 优 化 算 法 ： i ） 最 小 冗 余 最 大 相 关（ mRMR ） （ Peng 等 人 ， 2005 ） 和 ii ） 双 输 入 对 称 相 关 性（DISR）（Meyer等人， 2008年）。mRMR算法优化了所选特征之间的相互依赖性。两个变量x和y的相互依赖性可以使用公式（4）从它们的概率计算出来密度函数p<$x <$;p<$y<$和p<$x; y<$。Ix;yZZpx;ylogpx;ydxdy4使用等式（5）来近似最大相关性D=S;c=，其中所有相互依赖性的平均值是xi，c是类，并且S是特征集。因此，可以使用由等式（6）表示的函数RS来添加最小冗余。R. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3231jSjxsSi¼¼- 四分之一X1双螺 杆 挤出机jtiiFDISR¼argmax;jKd j jKd j最大DS;c1XIxi;c5最小R=1XI=1;xj=64. 结果和分析该实验在两种不同的情况下检测和分类Covid-19胸部X光片。在第一种情况下，只有Covid-19 X射线被分类为非COVID类，这意味着它是一种jS jxixjs两个等级的场景非COVID类包括病毒性肺炎、细菌性肺炎、正常胸部的所有胸部X光片。次等式（5）和（6）可以表示为等式（6）。（7）获得通过优化特征的相关性和冗余度来获得良好的特征子集。最大U/D;R/D;U/D-R/D递归特征消除（RFE）从等式（7）的U中找到接近最优的特征。另一方面，DISR是一种基于互信息的特征选择技术。它通过利用等式（8）中给出的特征选择标准来选择最相关的特征。8XIXij;T9=我Sxj2xsH<$Xi;j;T<$此外，实验还基于四种类别对X射线图像进行分类：Covid-19、病毒性肺炎、细菌性肺炎、正常胸部。整个数据集以7：3的比例随机划分，用于训练和测试对于医学图像分析来说，仅仅准确率是不够的，因此，还从查全率、查准率、F值等方面对该方法进行了评估。性能指标如等式所示（11）在方程中，TP是阳性类为阳性的预测; TN是阴性类为阴性的预测; FP是阴性类为阳性的预测;FN是阳性类为阴性的预测否定类为否定类。TPTNx2x：;准确度<$TP <$TN <$FP<$FN<$11毫米其中T是所需的类，S是特征集，I是相互的是信息，并且H是信息熵，并且Xi;j是特征变量。3.5. Enhanced（RF）分类器随机森林（RF）使用基于集成技术的决策树（DT）构建分类器（Breiman，2001年10月）。RF相对更快，提供有希望的精度，并且可以处理þ精密TP公司简介召回TPTPFNF1score2召回率×精确率召回和精确度ð12Þð13Þð14Þ大数据集通过决策树。该实验中的RF分类器使用了引导聚合的装袋技术（Ko等人，2011年）。该算法在本实验中的工作原理如下：● 从给定的数据m中随机选择K个特征的子集;其中Km。● 计算K个特征中的节点d，以找到最佳分裂点作为阈值节点。在节点d处，训练数据Kd被分成右子集Kr和左子集Kl。递归分割节点以获得更多的最佳分割节点。继续，直到达到单个节点重复n次意味着创建具有n个树的RF分类器。该候选节点被选为最大化信息增益的阈值节点。使用等式（9）计算熵估计以测量信息增益。RF分类器的形成遵循完成训练和停止迭代的两个条件。DE¼-jKljEKl-jKrjEKr9对所提出的模型的分析已经发现，最大深度20和树集合100将在所有情况下在分类精度和计算成本方面产生最佳性能。输入测试图像ci的输出类别通过等式（10）使PcijK的值最大化来获得。不P c K不P cK10t1/2其中T是树的总数。表1和表2显示了使用DWT和CNN的特征融合以及mRMR和RFE优化的测试图像的2类和4类分类的混淆矩阵。使用基于随机森林（RF）的装袋方法进行分类。表1显示了二元分类情况，其中在237个Covid-19阳性样本中，只有2个Covid阳性病例被确定为非Covid;即假阳性（FP）率几乎是最小的。对于1206例非COVID病例，只有6例未被分类为COVID阳性。由于新冠肺炎和肺炎胸部X线特征高度相关，这少量非新冠肺炎病例与新冠肺炎阳性病例（FP）重叠。在多类情况下（四类），使用与二分分类相同数量的样本正确识别了233例新冠病毒阳性病例。病毒性肺炎病例有时与新冠肺炎病例重叠，但没有新冠肺炎阳性病例被预测为正常胸部。集成分类器对特征向量进行了有效的优化，降低了误预测率。基于混淆矩阵，表3中示出了我们提出的用于2类和4类场景的方法的性能度量，诸如准确度、精确度、召回率、F分数。为了获得有意义的特征提取方案，该方法融合了纹理特征和深度CNN特征。 纹理特征的形成使用统计特征表1针对测试图像的2类场景获得的混淆矩阵实际类别预测类别COVID-19非COVID2019冠状病毒病（总数= 237）（TP）235（FN）2非新冠肺炎（总计= 1206）（FP）6（TN）12002●●●ð8ÞR. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3232表2测试图像的4类场景的混淆矩阵实际类预测类COVID-19病毒性肺炎细菌性肺炎正常2019冠状病毒病（总计= 237）233310病毒性肺炎（总计= 365）235742细菌性肺炎（总计= 391）133861正常（总计= 450）202445表3我们提出的方法的性能指标。预测类精度精度召回F1得分2级0.99450.97510.99170.9833四级0.98480.97890.98720.9829和GLCM特征。在不同方向上从小波的第二级子带中提取纹理特征对预处理后的胸片图像进行小波变换，其评价结果优于常规小波特征。表4示出了基于纹理特征的分类对于二元（Covid-19 vs 非COVID）类别和多个类别（4个类别：Covid-19、病毒性肺炎、细菌性肺炎、正常胸部）的表4示出了使用来自CNN或DWT的单一方法的特征与融合特征（即来自CNN和DWT两者的特征）的比较性能该表证实了融合方法的优越性。该实验尝试了不同的预训练CNN模型，以找到最适合的模型。目前的研究已经使用了许多预-用于胸部X射线自动诊断的训练CNN模型。对各种现有文献推荐的模型进行了探索性分析，并在表5中列出了比较结果。使用小波特征和CNN特征的组合来获得性能度量在训练和测试数据上，微调后的ResNet50作为预训练模型表现得更好所有CNN模型在训练中使用测试数据集也是相同的，以检查所有这些模型的性能为了评估每一个微调过的模型，我们只需要改变分类器的头并训练所需模型的层然而，这项研究也计算了一些划痕模型的性能，但性能峰值并不好，以及微调模型。来自表5的性能结果清楚地表明，预训练的ResNet50与小波域的组合产生相对更好的结果使用微调的预训练ResNet50模型，二进制类和多类分类在特征融合方面表现出良好的性能最后分别采用最小冗余-最大相关（mRMR）和双输入对称相关（DISR）表4使用纹理属性进行比较。方法预测类精度精度召回F-score仅DWT2级0.84260.83490.85410.8445四级0.81530.80960.83450.8219仅CNN2级0.97820.97150.98760.9794四级0.96180.94480.98090.9625DWT + CNN2级0.99450.97510.99170.9833四级0.98480.97890.98720.9829表5来自不同CNN模型的特征与DWT特征融合的比较性能方法预测类精度精度召回F-scoreResNet502级0.99450.97510.99170.9833四级0.98480.97890.98720.9829VGG192级0.96270.94680.97850.9623四级0.94890.93470.97820.9561MobileNet v22级0.94130.93340.95040.9418四级0.91530.90810.92440.9162DenseNet2012级0.92410.91140.93940.9252四级0.89470.88370.90910.8965成立2级0.90840.89780.92140.9095四级0.87960.86930.89340.8812Xception2级0.90460.89510.91670.9058四级0.87590.86390.89220.8778表6特征优化方法的性能比较方法预测类精度精度召回F1得分DISR + RFE2级0.98790.96680.98850.9776四级0.97910.96470.98190.9732mRMR + RFE2级0.99450.97510.99170.9833四级0.98480.97890.98720.9829R. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3233融合特征向量（小波特征+使用ResNet50的CNN特征）以及循环特征消除（RFE）技术。特征选择策略选择最相关的特征，并消除冗余特征，以提高计算速度和分类性能。通过这种消元，特征维数变得更加简洁，相关特征的计算量更小，效率更高。表6显示了mRMR + RFE和DSIR + RFE功能优化的比较结果。该表证实mRMR + RFE显示出比DSIR优化更好的性能。该实验使用随机森林分类器（RF）作为多个决策树的集合。RF分类器在性能指标和计算复杂性方面优于本实验中使用的SVM和CNN分类器。此外，对于重叠和分类的数据，RF分类器优于其他模型。表7证实了随机森林分类器显示了最佳性能。在mRMR和RFE技术的特征选择过程一些棘手病例的视觉表现，以及一个正常病例的胸部X线图像，如图所示。7.第一次会议。 图图7（a）示出了Covid-19病例的胸部X射线图像，其容易被所提出的模型和放射科医生检测到，因为肺的杠杆区域的主要关键因素可以通过审计不透明来解释，这是肺中气体与软组织的比率降低的结果。在图7（b）中，放射科医生在胸部X光检查中检测到Covid-19时感到困惑，但所提出的模型正确地将其检测为Covid-19类别。透明的设计负责对于质量差的X射线，所提出的系统显示出误检测，例如图7（d）。在图7（d）中，正常胸部图像被检测为细菌性肺炎。为了获得更具体的实验结果，进行了5重交叉验证。它估计了模型对独立数据的依赖性，也有助于最大限度地减少监督学习中的过拟合问题。性能通过对每次折叠中报告的值取 图图8示出了2类和4类场景的每个折叠的准确度。图8表示对于二元分类，峰值准确度为99.85%，对于多类分类，峰值准确度为98.91%。RF基于mRMR技术的选择性特征在每个折叠中进行分类由于这项研究的主要目的是从胸部X光检查中检测新冠肺炎，因此采用两种不同的标准衡量性能。通过使用RFE和mRMR处理不平衡数据，以获得和解释的洞察力感染的新冠病毒-19是执行但对人类专家来说很难。然而，在Fig. 7（c），提出的模型和人类专家都被错误地预测为肺炎，但实际的类别是Covid-19。穷人X射线的质量导致错误的预测。在某些情况下，由于见图8。 5折交叉验证的性能图。表7本实验中使用的不同分类器的性能比较方法预测类精度精度召回F-scoreKNN（K-最近邻）2级0.96740.94530.96960.9573四级0.95180.92820.95380.9408卷积神经网络2级0.98520.96970.98260.9761四级0.97460.95340.97870.9658支持向量机2级0.99110.96340.98470.9739四级0.98010.95820.98210.9701随机森林2级0.99450.97510.99170.9833四级0.98480.97890.98720.9829图7.第一次会议。由放射科医生和拟议模型评价：（a）由拟议模型和放射科医生预测的Covid-19;（b）由拟议模型预测的Covid-19，但被放射科医生错误地检测为正常胸部;（c）由拟议模型和放射科医生预测为病毒性肺炎，但实际类别为Covid-19;（d）由拟议模型预测细菌性肺炎，但实际类别为正常胸部。R. Mostafiz，Mohammad Shorif Uddin，Nur-A- Alam等.沙特国王大学学报3234表8拟议的Covid-19诊断与现有技术的比较研究数据集方法结果Hemdan等人（Pan等人，2019年）25例Covid-19（+）;25例 正常X线检查。VGG19 + MobileNet v2.新冠肺炎和肺炎。准确度= 90%Wang和Wong et.等人（Rajpurkar等人，（一七一一）358例Covid-19（+）; 5538例肺炎（病毒性+细菌性）;8066例正常胸腔。COVID-Net COVID-19，肺炎和正常。准确度= 93.3%伊奥尼斯等（Hemdan等人， 2003年）224例新冠肺炎（+）; 714例肺炎（400例细菌性肺炎+314例肺炎病毒）; 504例正常胸腔。MobileNet v2.COVID-19，肺炎，正常。准确度= 96.78%Narin et.（Wang and Wong，2003）50例Covid-19（+）; 50例正常胸部。深度CNN（ResNet 50）Covid-19和正常。准确度= 98%Sethy和Behera et.（Apostolopoulos和Mpesiana，2020）25例Covid-19（+）; 25例正常胸部。ResNet 50 + SVM Covid-19和正常。准确度= 95.38%Asif et.等人（Narin等人， 2003年）309例Covid-19（+）; 2000例肺炎; 1000例正常胸部。DenseNet 121 Covid-19，肺炎，和正常。准确度= 98%Mangal et.（Sethy和Behera，2020）261例新冠肺炎（+）; 4200例肺炎; 2750例正常胸腔。COVID-Net COVID-19，肺炎和正常。准确度= 90.50%Kumar et al（Kumar，2020）62例Covid-19（+）; 4200例肺炎; 5610例正常胸部。 ResNet 152 + RF分类器Covid-19、肺炎和正常。准确度= 97.3%厄兹蒂尔克等（Ozturk等人， 2020年）125例新冠肺炎（+）; 500例肺炎; 500例正常胸部。DarkCovidNet Covid-19和非Covid准确度= 98.08%Sarhan et. al. （Sarhan，2020年）88名新冠病毒（+）; 88名非小波+SVM Covid-19和非Covid准确度= 94.5%拟定方法790例Covid-19（+）; 1215例病毒性肺炎; 1304例细菌性肺炎; 1500例正常胸腔。小波+预训练ResNet50 +RF分类器COVID-19和非COVID。准确度= 99.45%新型冠状病毒肺炎，细菌性肺炎，正常。准确度= 98.48%集成RF分类器。因此，所提出的方法已经实现了优于现有的技术，使用一个相对较大的数据集的性能。表8中列出了拟定技术与最近开发的技术的比较分析5. 结论这项工作为Covid-19检测设计了一个高准确性和低复杂性的智能模型。正确的特征提取和选择显示了使用胸部X线进行Covid-19分类的满意结果。通过混合CNN和DWT的特征，解决了在处理大量特征集以区分Covid-19与其他类似病例时遇到的一些问题。基于互信息的特征选择是该方法的优势。集成RF分类器对X射线图像等重叠和不平衡的数据表现出更好的性能。该系统的测量精度达到98.5%以上并且优于现有技术。它显示了使用胸部X射线进行冠状病毒的成本效益，快速和自动诊断的可能性。内窥镜可用于研究风险和生存预测，有助于治疗策略和住院管理。尽管基于X射线的检测机制有许多积极的方面，但是，与标准RT-PCR技术相比，基于X射线的系统存在局限性，即通常的辐射危害。在未来，我们将研究其他特征的混合，以通过减少更少的假阴性和假阳性结果来提高准确性。竞争利益作者声明，他们没有已知的竞争性财务利益或个人关系，可能会影响本文报告的工作。引用Apostolopoulos，I. D.，Mpesiana，T.A.，2020.新冠肺炎：利用卷积神经网络的转移学习从X射线图像中自动检测。Phys. 工程科学医学、1Asif，S.，Wenhui，Y.，Jin，H.，陶，Y.，Jinhai，S. 2020.使用深度卷积神经网络对来自胸部X射线图像medRxiv.Bernheim，A. 例如，2020年。冠状病毒病-19（COVID-19）的胸部CT表现：与感染持续时间的关系放射科，200463。布雷曼，利奥，10月2001年随机森林马赫学习. 45（1），5-32。Cohen，J.P.，Morrison，P.，道湖，澳-地2020. COVID-19图像数据收集，新型冠状病毒X光片。https://kaggle.com/andrewmvd/convid19-x-rays（2020年7月29日访问）。高，K.，苏，J.，蒋志，曾湖，加-地L.，冯志，沈，H.，Rong，P.，徐，X.，秦杰，杨，Y.，2020年。双分支组合网络（DCN）：使用CT图像实现COVID-19的准确诊断和病变分割。医学图像分析 101836盖勒角，Varbanov，M.，Duval，R. E.，2012.人类冠状病毒：对环境抗性及其对新防腐策略发展的影响的见解。病毒4（11），3044-3068.霍金斯，D. M.，2004.过度拟合的问题。J. Chem. Inf. Comput. Sci. 44（1），1- 12。Hemdan，E. E.- D、Shouman，M.一、Karar，M. E、Covidx-net：深度学习分类器框架，用于诊断X射线图像中的COVID-19。arXiv预印本arXiv：2003.11055