基于Python的高度可解释性的极简分类器：GPR算法的开源实现与增强功能

≥软件X 22（2023）101362原始软件出版物GPR：基于模糊逻辑和基因表达式编程的极其简单的分类器的Python实现AnnaCzmil，Jacek Kluska，Sylwester Czmil热舒夫理工大学电气与计算机工程学院，波兰，热舒夫，华沙12号，邮编：35-959ar t i cl e i nf o文章历史记录：接收12七月2022收到修订版2022年12月13日接受2023年保留字：基于模糊规则的分类器基因表达式编程可解释性a b st ra ct在这项工作中，我们提出了一个基于Python的实现一个非常简单的分类器（GPR），它结合了基因表达式编程（GEP）的功能和代数表示的生成的模糊元规则具有高度的可解释性，适用于许多应用。我们提供了GPR算法的开源Python实现，使该算法的使用不需要任何商业软件工具，并向研究社区开放访问。我们还添加了增强功能，以提高规则的可读性和可解释性。版权所有©2023作者。由爱思唯尔公司出版这是CC BY许可下的开放获取文章（http://creativecommons.org/licenses/by/4.0/）中找到。代码元数据当前代码版本v1.0.0用于此代码版本的代码/存储库的永久链接https://github.com/ElsevierSoftwareX/SOFTX-D-22-00195Code Ocean computecapsulehttps://codeocean.com/capsule/6784302/tree/v1法律代码许可证MIT使用git的代码版本控制系统软件代码语言，工具和服务使用Python，Deap，Geppy，Numpy编译要求，运行环境&依赖python3。8如果可用，链接到开发人员文档/手册https://gpr-algorithm.readthedocs.io/en/latest/问题支持电子邮件czmilanna@gmail.com1. 动机和意义分类是一种数据挖掘技术，用于预测数据实例的组成员。有各种各样的分类方法来解决分类问题。最流行的分类算法是逻辑回归（LR）、朴素贝叶斯（NB）、k-最近邻（KNN）、决策树（DT）、支持向量机（SVM）、基因表达程序（GEP）[1，2]等。然而，许多分类方法不提供可理解的模糊或非模糊分类规则。 在本文中， 我们特别感 兴趣的模糊规 则为基础的系统（FRB），作为分类器自动生成的数据使用GEP方法。关于分类器设计的基本问题是构造准确和可解释（透明）的模型。是*通讯作者。电子邮件地址：czmilanna@gmail.com（Anna Czmil）.https://doi.org/10.1016/j.softx.2023.101362必须在可解释性和它的规则和准确性[3]。这种系统的准确性的测量是直接的和众所周知的。然而，可解释性被认为是模糊规则系统的主要优点，但它取决于几个因素，主要是模型结构，模糊集的成员函数的形状，规则的数量，特征的数量，语言术语的数量等。选择适当的可解释性措施仍然是一个悬而未决的问题[4]。在文献中已经提出了许多算法来构造基于模糊规则的分类器[5它们产生或多或少复杂的模糊规则。然而，这些算法建立的模型不采用两个模糊集的线性隶属函数，如探地雷达。通常，他们使用更多的模糊集与复杂的隶属函数，主要是当他们来自基于遗传规划的方法。类似于[11，12]，GPR算法不调整模糊隶属函数，2352-7110/©2023作者。 由Elsevier B.V.出版。这是一篇开放获取的文章，使用CC BY许可证（http://creativecommons.org/licenses/by/4.0/）。可在ScienceDirect上获得目录列表SoftwareX期刊主页：www.elsevier.com/locate/softxAnna Czmil、Jacek Kluska和Sylwester Czmil软件X 22（2023）1013622==∑∏--联系我们= −=== −=联系我们n∈r≤ ≤−2n{}因为它们的调整会降低模糊规则系统的可理解性。因此，GPR可以被看作是一个非常简单的算法，因为它只使用两个模糊集的线性和互补的隶属函数的每个连续的功能。文章[13]提出了一种非常简单的二进制数据驱动分类器的设计，称为GPR。在16个数据集上测试了它的性能，并与其他22种分类算法进行了比较结果表明，该分类器是最好的分类器的质量标准时，ROC曲线下的面积和分类精度。该分类器基于模糊规则，具有以下特点：1. 模型化数据集可以包含连续的和非线性的输入变量（特征），2. 数据集中特征的数量不会影响元规则的复杂性，3. 分类过程提供了高度可解释的模糊元规则，其等同于代数表达式，4. 使用GEP技术得到代数表达式5. 用户可以先验地设置元规则的数量和它们的复杂性。上述优点使得GPR分类器对于许多应用（例如，为医疗数据集寻找分类规则[14在[13]中描述的GPR实现的主要缺点是它依赖于商业软 件 工 具 ： 来 自 GepsoftLimited 的 GeneXproTools 和GeneXproServer（https：//www.gepsoft.com/）上提供。此外，用户必须以代数方程的形式从整组解中手动提取元规则。提取微粒子是一项简单的任务，但是它需要用户的承诺。因此，我们在Python中实现了该算法，并向用户提供了免费版本，而不是商业软件。此外，我们对原始GPR算法进行了修改/改进，以便软件用户获得以下额外好处：1. 选择语言“if-then”元规则的过程2. 所生成的元规则的前件可以包含额外的语言术语3. 生成每个规则的支持度（确定性或置信因子）。2. 软件描述2.1. 探地雷达算法描述在[13]中描述了对GPR算法的全面研究。下面，我们通过假设最有趣的情况来简要描述该算法的思想，当原始数据集包含具有坐标（特征）的n维实输入向量（数据记录）时，例如，y k，（k1，. . .，n），从有限区间。所有输入向量都应转换为不同的点， 一个超立方体In[0， 1]n。让我们假设P1-TS基于模糊规则的系统对我们的数据集进行建模，并且由几个模糊的“如果-那么”元规则组成元规则等价于许多单个. .，yn.相反，元规则的前件是指集合的真子集Fig. 1. 连续规范化输入定义的模糊集的隶属函数。{y1，. . . ，y n}。在规则或元规则中使用的每个特征yk两个模糊集（语言变量）之一。第一模糊集的隶属函数为Pk（yk）y k，第二个是Nk（yk）1Pk（yk），对于k1，. . .，n，（见图①的人。如果所考虑的P1-TS系统的元规则的所有结果都来自集合0， 1，则所有系统变量都可以从多值逻辑的观点容易地解释。例如，如果ykθ，其中θ是阈值（通常为θ0的情况。5），则yk被解释为提出了一个有见地的定理在[13]中。对于P1-TS系统的输入yk∈[0，1]，将所有输入变量从集合{y1，. . . .，yn}的新输入的集合中：. .，x2 n，使得x2 k−1y k，且x2k1y k，对于k1，. . .，n，该系统的清晰输出S可以用变量“x（. ）MS=xk，（ 1）r=1k∈Kr其中乘积k K×k是指对应于类别标签“1”的这种数据记录的连续特征。子集K1，. . .，K M1，. . .，2n包含一些索引，并且通常，1M21.此外，任何形式为（1）的代数表达式都可以被解释为一个元规则系统，它定义了一些基于P1-TS规则的系统。因此，我们需要解决的主要问题是找到方程形式的表达式。（1）对于给定的数据集。应该注意的是，我们的问题（1）的可能解的数量是很多的，所以我们建议使用GEP算法[2]来解决它。我们的数据还可能包含具有分类属性（标签）的记录然而，我们不讨论这种（更简单的）情况，因为细节出现在[13]中。与[13]相反，我们在本文中没有使用GEP算法的商业实现。2.2. 软件功能GPR是用Python 3编写的，使用Deap和Geppy进化计算框架以及NumPy数值包[21该算法的核心功能是在GPR类中实现的，它允许您创建类的实例并调用两个最重要的方法，也就是说，fit（）和predict（）。这些方法遵循Scikit-learn语言接口，并连续应用于训练算法并使用已训练的算法进行预测。由于返回的结果类似，因此可以使用模块sklearn.metrics中的方法评估预测误差。GPR类包含一个私有方法_init_primitive_set（），它为每个属性生成一组可能的语言术语“is_high”和“is_low”。这些属性相乘在一起形成一个基因。许多基因与染色体相连，染色体是Anna Czmil、Jacek Kluska和Sylwester Czmil软件X 22（2023）1013623−−∈ []= −=[−] × []∈ {}∈表1用模糊逻辑表示的输入及其补集z1 z2 y1是低y2是低y1是高y2是高标签1.000 2.500 1.000 0.900 0.000 0.100 12.500 2.000 0.125 1.000 0.875 0.0003.000 7.000 0.000 1.000 1.000 10.200 6.300 0.800 0.140 0.200 0.860 10.500 0.625 0.400 0.375 0.600 1这些基因的值使用generate_chromosome（）。另一个私有方法是_init_generate_population_function（），它初始化Geppy调用的生成基因、染色体和整个种群的函数。method_init_toolbox（）负责初始化所有可用的操作，即，突变，选择，和交叉应用Geppy修改，选择和移动的个人。_init_stats（）注册所有可能的统计函数，这些函数将应用于每个后续生成中的数据，以观察单个群体的结果。_init_evaluation_function（）表示用于评估染色体与输入数据的拟合程度的评估函数。接下来的两个关键函数是_compile_chromosome（）和_compliment_samples（）。其中第一个用于将文字形式的染色体转换为可用于分类的Python函数。第二个生成来自最终数据集的输入变量的补数。property_best_fit （ ） 返 回 进 化 过 程 中 种 群 中 最 适 合 的 个体 ;_best_fit_function （ ） 是 property_best_fit （ ） 和function_com- pile_chromosome（）的组合。该组合功能可用于基于最合适的个体进行分类的功能_shorten_terminals（）和_translate_terminal（）用于截断使用语言学术语“medium”和hedge“very”在规则中使用终端，函数ranking（）计算_best_fit（）的每个属性的出现次数，并生成这些属性的排名。函数rules（）基于_best_fit（）生成规则。3. 说明性实例3.1. 实施例1n_populations和n_generations，分别表示世代数和种群数;将分数转换为预测的阈值;如果分数大于阈值（默认设置为0.5），则预测1;否则，预测0;base_pb，指示在染色体上触发操作的概率eval_fun用于适应度函数中，以与原始文章中用户可以将其更改为自己的函数，该函数接受两个数组作为输入参数;第一个数组由地面真实（正确）标签组成，第二个数组由预测标签组成。此函数返回表示分数的单个数字。GPR具有与Scikit-learn中可用的其他分类算法类似的接口，即，fit（）和predict（）方法的格式相同。fit（）方法根据训练数据训练GPR模型。它需要一个规范化的属性列表， 标签列表并返回拟合模型。方法predict（）对标准化的样本执行分类，并返回这些属性的类标签。 方法rules（）返回语言学的“if-then”元规则，这些元规则可以在完成拟合后打印在控制台上。 GPR获得的结果可以使用模块sklearn中的方法进行评估。metrics，例如accuracy_score（）、auc（）等。清单1：GPR在人工数据上的示例使用。1我很抱歉 拉安多姆2我很抱歉 numpyasnp3从klearn。根据您的要求，我们将为您提供最佳的服务。4从klearn。PreprocessinmportMinMaxScaler5从 gpr_algorithmmportGPR67random. 第一章（1）89个 标签=np。数组（10[1，0，1，1，1] 11）12个 属性=NP. 计算机）数组13[[-1.0，2.5]，[2.5，2.0]，[3.0，7.0]，[-0.2，6.3]，[0.5、5.0]]十四、图15 示出了一个示例，其中d=MinMaxScaler（）。fit_transform（属性）为了演示GPR算法的工作原理，让我们考虑由两个输入变量（z1，z2）第1、 3条二、七R2的集合，它们被标记为类Cl0，1作为在[13]中描述。每个数据记录都使用Scikit-learn的MinMaxScaler对象重新缩放到[0，1]范围内。表1示出了具有以下形式的归一化输入的补输入：1y和高（y）y对于y0， 1。我们应用GPR生成清单1所示的规则。首先，我们用种子1初始化随机数生成器，以确保可重复性。然后，我们根据表1定义标签和属性。然后使用对象MinMaxScaler将属性重新缩放到范围[0，1]，因为GPR算法需要标准化数据。要创建GPR的新实例，feature_names参数是必需的。其他参数，如max_n_of_rules、max_n_of_ands或verbose，依次引用最大规则数、单个规则中最大AND运算符数以及是否打印统计信息的设置。它们是可选的，并具有默认值（请参阅https://gpr-algorithm.readthedocs.io/上的文档）。用户还可以设置其他参数：target_names显示规则中的类名，而不是泛型0和1;16172019 - 04 - 22 00：00：00 00：0018feature_names=[19max_n_of_rules=2，max_n_of_ands=2，20verbose=False（21）22格普河fit（attributes_normalized，labels）23predicted_labels=gpr. prdict（attributes_normalized）2425print（26为规则在GPR中。规则：27print（rule）2829print（30print（accuracy_score（labels，predicted_labels））在执行清单1所示的代码之后，我们获得了以下规则：如果y2为高然后1 |支持度：0。6400如果y1为低，则1|支持度：0。6062 ELSE 0每个规则的IF部分是规则并指一个属性（特征）或多个属性。这些属性使用逻辑AND运算符连接的·····Anna Czmil、Jacek Kluska和Sylwester Czmil软件X 22（2023）1013624图二、G P R 算 法 的决策系统边界可视化与表1中的5个 数据记录拟 合 （阈值= 0.5）。THEN部分是结论（规则的结果），并引用特定的类。结果与[13]中的规则相同规则中的置信度是为每个规则确定的，它是区间[0，1]中的数字，其中0表示不置信，而1表示最高置信。因此，对于规则（0. 100+ 1 000+ 0。860+ 0。600）/4 = 0。六千四百类似地，根据表1中的列“y1是低”和“标签”计算第二规则“”如果y1是低则1“”的支持度，（1. 000+ 0。000+ 0。800+ 0。625）/4 = 0。6062图图2示出了针对来自表1的所考虑的数据集和所获得的模糊规则的特征空间（y1，y2）中的GPR分类器的决策边界。变量y1和y2的数值来自单位区间[0， 1]。图中的横坐标。2对应于y1为高（或低）的程度。例如，“y1为低”意味着第一原始特征的数值，即，表1中的z1接近最小值。纵坐标对应于y2为高（或低），例如，“y2为高”，这意味着第二原始特征的数值，即，表1中的z2接近最大值。当然，高是低的逻辑补充，反之亦然。假设y表示区间[0，1]中的一个变量。以下语言解释适用于先行部分，即，（y是高）AND（y是高）=（y是非常高），（y是低）AND（y是 低）=（y 是 非常 低），（y是低）和（y是高）=（y是中），（y为高）与（y为低）=（y为中），其中符号“="表示等价;逻辑运算符AND对应于代数乘法运算（*）。这种解释遵循模糊系统的分析理论[13，19]。3.2. 实施例2清单2显示了GPR在威斯康星州乳腺癌（BCW）数据集的使用情况[24]。它包含699条记录，标记为恶性乳腺癌的1类和良性的0数据记录描述了良性和恶性病例之间显著不同的九个特征。GPR算法产生了以下结果：如果 裸 核 是 高 然后 恶性|支持度：0。7340如果 均匀性 的 细胞 大小 是 高 然后 恶性|支持度：0。小行星6192接收到的规则类似于[13]中提出的规则。图3示出了BCW数据集中的特征空间（裸核、细胞大小的均匀性3.3. 实施例3清单3演示了GPR在Haberman的生存数据集上的用法该数据集包括来自一项研究的306例病例，该研究检查了接受手术的乳腺癌患者的生存率。以下属性描述了数据记录：患者年龄、手术年份和检测到的阳性腋窝淋巴结数量。目标是确定患者是否存活了五年或更长时间，或者患者是否在五年内死亡。GPR算法产生了以下结果：如果年龄是介质然后幸存|支持度：0。2108如果积极是高然后幸存|支持度：0。1434Anna Czmil、Jacek Kluska和Sylwester Czmil软件X 22（2023）1013625图3.第三章。G P R 算 法 的决策系统边界可视化适合BCW数据集中的699个 记录（阈值=0.5）。图四、G P R 算 法 的决策系统边界可视化拟合在Haberman数据集中的 3 0 6 个 记 录 上 （阈值=0.5）。在这个表达式中，属性age出现了三次，如果 年龄 是 高 和 积极 是 高 然后 幸存|支持度：0。0609 ELSE死亡这相当于下面的表达式：年龄是高年龄是低+阳性是高+ 年龄是高水平阳性高属性positive出现两次。通过将给定终端的出现次数除以表达式中所有终端的数量，我们获得其秩值。对于上面的表达式，重要性值如下：年龄：0。6，阳性：0。四、图图4示出了在Haberman数据集中的特征空间（Positive，Age）中GPR分类器的决策边界。Anna Czmil、Jacek Kluska和Sylwester Czmil软件X 22（2023）1013626清单2：在乳腺癌Wisconsin数据集上使用GPR的示例。1我很抱歉 拉安多姆2从PathlibimportPath3我很抱歉 numpyasnp4我很抱歉 pasaspd5从klearn。根据您的要求，我们将为您提供最佳的服务。6从klearn。PreprocessinmportMinMaxScaler7从 gpr_algorithmmportGPR89拉恩多山（0）10DF=警局read_csv（11Path（__file__）. parent. 我不知道你在说什么。joinpath（' b c w. csv第十二章）1314target_names=[15feature_names=[16’17’18’19’20日]2122labels=df[' C l a s s ' ]. values23标签[标签==二、=零24标签[标签==四、= 1个25attributes=df[feature_names]。values26at tribes_normalized=Min MaxScaler（）. fit_transform（属性）27282019 - 04 - 22 00：00：00 00：0029target_names=target_names，30feature_names=fe ature_names，31如果x_n_o=3，32max_n_of_ands=3，33n_g_e_e_r_at ions=20，34n_po_plati〇ns =20，35verbose=False第三十六章）3738格普河fit（attributes_normalized，labels）39pred_labels=gpr. prdict（attributes_normalized）4. 影响论文[13]表明，当质量标准是ROC曲线下面积或分类精度时，数据驱动的GPR算法是最好的分类器之一。在提供可解释模型的分类器方面，它的直接竞争对手排名很高。该分类器是P1-TS基于规则的系统[18-因此，我们认为，我们提出的实现将感兴趣的研究人员感兴趣的模糊逻辑及其应用。分类器在机器学习方法中起着至关重要的作用。探地雷达算法提供了非常简单和高度可解释的模糊“如果-那么”元规则。因此，它与目前密集开发的可解释人工智能兼容。这一事实加强了Python实现将在机器学习社区中流行的论点。与前面的实现不同，我们的软件工具需要最少的用户干预，即，它只需要将数据归一化到区间[0，1]和/或用来自集合{0，1}的数字对分类数据的标签进行编码。5. 结论我们已经提出了GPR，一个非常简单的分类器，它结合了GEP的功能和代数表示的“如果-那么”的Takagi-Sugeno模糊推理系统的模糊规则理论的Python为基础的我们的目标是清单3：在Haberman生存数据集上使用GPR的示例。1我很抱歉 拉安多姆2从PathlibimportPath3我很抱歉 numpyasnp4我很抱歉 pasaspd5从klearn。根据您的要求，我们将为您提供最佳的服务。6从klearn。PreprocessinmportMinMaxScaler7从 gpr_algorithmmportGPR89拉恩多山（0）10DF=警局read_csv（11Path（__file__）. parent. 我不知道你在说什么。我是一个很好的朋友。csv第十二章）1314target_names=[15feature_names=[16’第十七章]1819labels=df[' S u r v i v a l ' ]. astype（“category“）. 卡特湖codes. 值20attributes=df[feature_names]。values21一个简单的方法是将d=MinMaxScaler（）.fit_transform（属性）22232019 - 04 - 22 00：00：00 00：0024target_names=target_names，25feature_names=fe ature_names，26如果x_n_o=5，27max_n_of_ands=5，28在s=20时，29在s=20时的n_po_p_l_a_t，30verbose=False（第三十一条）3233格普河fit（attributes_normalized，labels）34pred_labels=gpr. prdict（attributes_normalized）通过一个开源的Python实现来扩展这个算法的可访问性。我们的GPR实现与Scikit-learn共享一致的接口。GPR使用和输出结果的示例代码片段被解释和详细说明，以演示它是如何工作的，并概述其功能。代码在GitHub上以MIT许可证提供。CRediT作者贡献声明Anna Czmil：概念化，方法论，软件，验证，形式分析，调查，资源，数据管理，写作-原始草稿，写作-审查编辑，项目管理。Jacek Kluska：概念化，方法论，验证，形式分析，资源，写作-Sylwester Czmil：软件，资源，数据管理，写作竞合利益作者声明，他们没有已知的竞争性财务利益或个人关系，可能会影响本文报告的工作数据可用性我们使用公开的数据。确认这项工作由热舒夫理工大学的维护和研究潜力开发Anna Czmil、Jacek Kluska和Sylwester Czmil软件X 22（2023）1013627引用[1] Witten IH，Frank E，Hall MA.数据挖掘：实用的机器学习工具和技术。MorganKaufmann;2011，p.六二九http://dx.doi.org/10.1016/C2009-0-19715-5.[2] 费雷 拉角基因 表达式 编程：人工 智能的数 学建模 。Berlin： Springer-Verlag; 2006，http://dx.doi.org/10.1007/3-540-32849-1.[3] 鲁济茨基湾面向解释性的模糊规则分类器的多目标遗传优化。Appl SoftComput 2016;38：118-33. http://dx.doi.org/10.1016/j.asoc.2015.09.038网站。[4] Gacto M，Alcalá R，Herrera F.基于语言模糊规则系统的可解释性：可解释 性 度 量 综 述 .InformSci2011;181 （ 20 ） ： 4340-60 。http://dx.doi.org/10.1016/j.ins.2011.02.021，Special Issue on InterpretableFuzzy Systems.[5] Chi Z，Yan H，Pham T.模糊算法：与应用图像处理和模式识别，卷。10个。世界科学; 1996年。[6] del Jesus M，Hoffmann F，Navascues L，Sanchez L.基于模糊规则的归纳分类器与进化提振算法 IEEE跨模糊系统2004;12（3）：296-308.http://dx.doi.org/10.1109/TFUZZ的网站。2004.825972。[7] 作者：J.J.模糊规则分类系统中规则权重的确定。IEEE跨模糊系统2005;13（4）：428-35. 网址：//dx.doi.org/10.1109/TFUZZ.2004.841738网站。[8] Hühn J，Hüllermeier E. FURIA：一种无序模糊规则归纳算法。Data MinKnowl Discov 2009;19（3）：293-319. http://dx.doi.org/10.1007/s10618-009-0131-8.[9] 放大图片作者：Alcala-Fdez J，Alcala R，Herrera F.一个基于模糊关联规则的高维问题分类模型，具有遗传规则选择和横向调整。IEEE跨模糊系统2011;19（5）：857-72. http://dx.doi.org/10.1109/TFUZZ.2011.2147794。[10]Cózar J，Fernández A，Herrera F，Gámez JA.基于数据的鲁棒模糊分类器设计的元层次规则决策系统复杂性IEEE跨模糊系统2019;27（4）：701-15.http://dx.doi.org/10.1109/TFUZZ的网站。2018.2866967。[11] 张文忠，王文忠，王文忠.模式分类问题的模糊GBML方法的混合IEEETransSystManCybernB2005;35（2）：359http://dx.doi.org/10.1109/TSMCB.2004.842257网站。[12]张文忠，张文忠，张文忠.一种加权模糊分类器及其在图像处理中的应用。FuzzySetsandSystems2007;158（3）：284http://dx.doi.org/10.1016/j.fss.2006.10.011，图像处理。[13]Kluska J，Madera M.基于模糊逻辑和基因表达式编程的非常简单的分类器。Inform Sci 2021;571：560-79. 网址：//dx.doi.org/10.1016/j.ins.2021.05.041网站。[14]作者：Kuska J，Kusy M，Obrzut B.预测宫颈癌治疗围手术期并发症的分类器。In：Rutkowski L，et al.，编辑器。ICAISC 2014年。Cham：SpringerInternational Publishing; 2014 ， p. 143-54. http://dx.doi.org/10.1007/978-3-319-19324-3-18网站。[15]Chen T，Shang C，Su P，Keravnou-Papailiou E，Zhao Y，Antoniou G，etal. A decision tree-initialised neuro-fuzzy approach for clinical decisionsupport.ArtifIntellMed2021;111：1-13.http://dx.doi.org/10.1016/j.artmed.2020的网站。101986.[16]Czmil A，Czmil S，Mazur D.一种使用移动终端基于身体活动测量来检测1型糖尿病的方法。ApplSci2019;9（12）.http://dx.doi.org/10.3390/app9122555，URLhttps://www.mdpi.com/2076-3417/9/12/2555。[17]洛杉矶扎德。模糊限制语的模糊集合论解释。J Cybern 1972;2（3）：4-34.http://dx.doi.org/10.1080/01969727208542910网站。[18]Kluska J. P1-TS模糊规则系统的应用。In：Rutkowski L，Korytkowski M，Scherer R，Tadeusiewicz R，Zadeh LA，Zu-rada JM，editors.人工智能和软计算。Cham：SpringerInternational Publishing; 2015，p. 195-206.[19]Kluska J.模糊建模和控制的分析方法。研究在future和软计算，柏林，海德堡：施普林格; 2009年，http：//dx.doi.org/10.1007/978-3-540-89927-3网站。[20]Kluska J.通过Takagi-Sugeno模糊系统分析建模的变换引理及其应用。In：Rutkowski L，Tadeusiewicz R，ZadehLA，Dourada JM，editors.人工智能与软计算- ICAISC 2006年。Berlin，Heidelberg：Springer Berlin Heidelberg; 2006，p.230 -9[21]Fortin F-A ， De Rainville F-M ， Gardner M-A ， Parizeau M ， Gagné C.DEAP：进化算法变得简单。J Mach Learn Res2012;13：2171-5.[22]高 S. Geppy ： 一 个 用 于 基 因 表 达 式 编 程 的 Python 框 架 。 2020 年 ，http://dx.doi.org/10.5281/zenodo.3946297。[23]Harris CR ， Millman KJ ， van der Walt SJ ， Gommers R ， Virtanen P ，Cournapeau D ， et al. Array programming with NumPy. Nature 2020;585（7825）：357-62. http://dx.doi.org/10.1038/s41586-020-2649-2网站。[24] Wolberg WH，Mangasarian OL.医学诊断模式分离的多表面方法ProcNatlAcadSci1990;87（23）：9193-6.http://dx.doi.org/10.1073/pnas.87.23.9193网站。[25] Takagi T，Sugeno M.系统的模糊辨识及其在建模和控制中的应用。IEEETransSystManCybern1985;SMC-15（1）：116-32.http://dx.doi.org/10.1109/TSMC.1985.6313399网站。