多维空间中的Geodesic Classification问题及其解决方案

Available Online atwww.sciencedirect.com理论计算机科学中的电子笔记346（2019）65-76www.elsevier.com/locate/entcs上一篇：几何学经典问题GeodesicClassictification Problem on Graphs1.3奥卢·亨利《我的王国》1.3从计算C=和Quixad'a大学F和R的C和AR'A校园A.B. A.D.A. B.A.ManoCamP.Elo2，4（一个人的生活）从艺术品Matem'aticaeEstat sticaAplicada大学F和从RalC和AR'aFortaleza，CE，巴西里卡多C。C或R2，5从Ci到COmba的主要区别到巴西里约热内卢新伊瓜苏联邦大学玛蒂娜实验室6号Departement抽象由重要的advances在输入优化在这个国家年代，Bertsimas和Shioda开发了一个integer优化方法对多维度空间的类的统计问题，delivering a package calledCRIO软件（分类和回归通过IntegerOptimization）。遵循这些想法，我们定义一个新的类定义问题，探索它们的组合方面。这个问题是确定图形使用的geodesic convexity作为一个分析的欧几里得convexity在多维空间。我们通过Geodesic Classification（GC）prob- lem拒绝了一个问题。我们提出了一个集成编程公式的GC问题，以及一个涵盖和解决方案的算法，最后，我们展示了计算机实验顺序，以评估组合优化和在建议的方法中的科学和类定义accuracy。关键词：Classification，Geodesic Convexity，Integer Linear Programming。https://doi.org/10.1016/j.entcs.2019.08.0071571-0661/© 2019 Published by Elsevier B. V.这是CC BY-NC-ND许可证下的开放访问文章（http://creativecommons.org/licenses/by-nc-nd/4.0/）。66P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 3461导言监督学习拒绝了基于一组采样的未知数据的行为的自动预测在我们活着的时候，信息社会的每一天都是一个令人愉快的时刻。一般来说，它可以被描述为后续两阶段过程：在初始阶段，或训练阶段，样本集已被分析。Each sample consists of anarray of encoded attributes that characterize an object of a certain type togetherwith a label that associates a class to the corresponding object.（单一类型的对象与匹配对象的标签相关联）最常见，只有两类被认为是。在此阶段所做的tacit假设是，这里是一个underlying模式与其他类的sample of each类相关联，这些类从其他类的sample中分离出来。因此，训练阶段的目的是确定从所有可能的对象到设置可能的类的所有可能的对象作为样本的一个底层模式的扩展。因此，在第二阶段，在训练阶段确定的映射是用于为不属于样本集的对象的类查询。一 个 优 化 问 题 通 常 与 训 练 阶 段 相 关 联 。 Re- ferred to asclassificationproblem ， it consists in grouping similar samples so as to get a internallyhomogenous as possible.（象）相似的样本集，使集群内部尽可能同质化。A宽范围的解决方案meth-ods是可用的，each依赖于代码的样本和一个明智的采用到express同质性。一个非常流行的方法是编码Sam- ples as vectors in an Euclideanspace，并假设类模式可以通过凸集来表示属性。在此，连续优化方法，包括线性和四边编程，在过去的40年[1，6，8，9，14]已经开发。最近，线性编程工具的integer线性编程工具开始于与连续方法[3，13，16，17，18]结合。Strongly是基于Euclidean convexity concepts discussed[7]，本文研究的对象是使用线性编程公式来解决一个类定义问题的新变量的图形定义定义。新的类定义问题的状态假定后续的假设：(i) 物件未编码为数值。通过Instead，each对象的特征由它们与其他对象的相似性实现。例如，“定义对象是由相似图形G=（V，E）表示的，连接的，其中V是所有对象的集合，而E是类似对象的pairs。与采样设置相关的对象构成了V的建议子集合。In addition，it is assumed that there is an underlying samplesthat can be expressed，or at least在某种程度上，在某种程度上，它是一种可以被表达的，1Partiallysup portedbytheC是从Nı velSu perior，金融代码001中的一个P p erfe i coame n to.2由巴西机构CAPES，CNPq（Proc. 305264/2016-8，Proc. 443747/2014- 8）和FUNCAP（PNE-0112-00061.01.00/16）提供部分支持。3电子邮件：phmacedoaraujo@lia.ufc.br4电子邮件：mcampelo@lia.ufc.br5电子邮件：correa@ufrrj.br6电子邮件：mlabbe@ulb.ac.beP. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 34667approxmated by the notion ofgeodesic convexity in graphs， figned with re-spect to the short paths inG （ analogously to the fication of Euclideanconvexity with respect to the Euclidean distances between points）[15] .近似的，由地理兼容性一致性在图形上，确定在G中短路径（类似于对欧几个点之间的距离）[ 15 ]。(ii) 样本集可能包含错误对象的任意数字，被称为异常值，结果来自可能的采样错误或需要固有的特征-来自现象的特征是模块。从一个数学点来看，一个异常是那 个 导致 其 样 本 的底 层 模 式从 定 义 的 一致 性 发 展 而来 的 对 象 。可 能 的occurence的outliers构成一个额外的challenge到任何方法用于解决类-fication问题，因为他们需要被检测到并取消符合性的解决方案。Considering the hypotheses above ， theGeodesic classification （ GC ）problem tackled in this paper becomes purely combinatorial.在这篇论文中，我们发现了一些现象。However，as detailed later，a solution is neither a covering nora partitioning ofG in convex sets in the sense studied in [2，5].然而，作为十年后的十年后，一个解决方案是需要一个覆盖或一个partitioning的G在convex sets inthe sense studied in[2，5] .在[2，5]。Thus，the study of the GC problem is oftheoretical interest since it references to the possibility of establishing newproblems on graphs which may bring subsistes to resolution methods，includingthose based on Euclidean convexity.（如果存在GC问题的话，可以引入解决方法的可能性，包括基于Euclidean会议的方法）。有更多实际问题的动机是降低到编码对象类似的通过一些二进制关系超过一个样本集。许多应用程序成功地挖掘文本，社交网络中的社区检测，历史类似的预测，建议系统，垃圾邮件配置是该方法的潜在优势[10]。对于我们的知识最好，GC问题不是在liter- ature中学习。这份工作的主要目的是提出并研究算法算法方法来解决它. To this end，we state integer programmingformulation and derives a family of aspect-de-fining inequalities.到这结束，我们国家不断地进行编程公式化和推导出一系列的方面-目的不平等. A branch and cutmethod is then presented.白和切方法是目前存在的。一些计算机实验正在描述，展示解决方案方法提出的是e科学的小规模和中等规模的实例。具体实现的特点是执行了什么懒惰的概念设计方案和切割计划算法是减少其运行时间的关键。 关于Accuracy of 根据算法提出的预测来验证与SVM和MLP的类似实例的一个假设（这两个是用于Euclidean convexity classification问题的最多可用的方法）。这篇文章是组织作为follows。在第二节中对图形提出一些基本概念和说明之后，我们正式确定了地理经典问题。一个线性公式在第三节中提出，与各个方面的不平等家族共同努力。在第4节中，我们介绍了开发算法和计算实验。最后，在第5节中，我们提出了一些完成评估和未来工作方向的建议。68P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 3462问题声明让V是一组与之相关的对象，这些对象是通过一个二进制关系描述为连接的无定向图形G=（V，E），|V|=n。两个不同的对象是类似的，如果匹配垂直相邻在G（类似地，双垂直V，W∈V，V/=W，被称为类似的ifVW∈E）。我们还提到了G作为类似图表，我们采用了Bondy和Murty的书中使用的标准术语具体地说，a pathbetween v，w∈Vis the sequence v，ifv=w，or a sequence of distinct vertalesP=v1，v2，..，v vi v i+1∈E for i= 1，.，L-1。 一条路的长度是由它的边界号码（即edges）引起的。长 度 The Length ofvAgeodesic between v，w∈V is a shortest path betweenv andw and its length isdenoted byδ（v，w）.在v和w之间的一条短路径，其长度由δ（v，w）被δ（v，w）取消。我[V，W]是V和W之间地理上所有垂直欺凌的集合。 More generally，givenS V，I[S]=u ，v∈S[u，v]。在这种情况下，如果I[S]=S，则S是一个凸集。Theconvex hullofS，denoted byH [S]，is the smallest convex set containingS.在最小的集合S中，被H [S] denoted，是最小的集合。我们also）（不）（是）（，）（我）（们）（不）（不）（是）（不）（是）（我）（们）（在）（这）（里）（。在本文中，我们认为两个非对称子集VB， VRV，VB∈ VR= ό，VBR=V B∈ V R是两个非对称子集V B，V BR =VB ∈VR是样本集，VN=VV \VBR是一个子集。VB和VR分别定义了蓝类和红类垂直。未分类的垂直行业被称为未分类的垂直行业。一个类似的图形和它的样本集的例子是在图1中被描述。In analogy to the Euclidean version ofthe problem，我们定义G是线性可分离的，分别对应于ABVB和AR VRif(i) A.{\displaystyleA.{\displaystyle A.} B.{\displaystyle A.{\displaystyle A.}B.{\displaystyleA.{\displaystyle A.}B.{\displaystyle A.{\displaystyle A. B}}(ii) H[AR] B {\displaystyleA}=¼，and(iii) A.{\displaystyleA.{\displaystyle A.}B.{\displaystyleA.{\displaystyleA.}B.{\displaystyle A.{\displaystyle A.}和线性不可分割的其他方面。IfG is linearly separable with respect to some sampleset，it can be turned linearly separable if some vertines are disregarded（如果一些垂直被剥夺了，它可以被扭曲线性分离）视为异常）。10. Such a situationoccurs in the example of Fig. 1 .请在图1中选取一个情境。G是线性不可分割的becausev∈H [VB]∈H[VR]，但它是线性可分离的，如果eitherv1，v2，v3或v4被认为是一个异常值。A类问题相关的G，VB，和VR对被剥夺的垂直的最小数量，follows.P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 34669ph. 1。举例说明：一个类似的图形与蓝色类（固体圆圈）和红色类（固体squares）垂直。70P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 346ΣΣΣΣ定义2.1 Given G，V B，and V R，the Geodesic Classification（GC）problemsasks for groups A BVBand A R VRthat the maximates最大值|A B|A R|然后使G线性分离到A B和A R。这是值得注意的是AB和AR 定 义了从Vto{blue，red}类映射到H [AB] blue classvertes和all unclass-si fied vertures inH [AR] as red class vertures。In addition，this mapping arbitrily classifies the unclassified verteses inV\（H [B]∧H[AR]）.在第 五 节 中 ， 将 其 映 射 到 第 一 节 的 第 一 节 。请 注 意 ， 垂 直 中 （ H[A]∈VR ） ‡（H[R]∈VB）被认为是异常值且未被重新分类（即，移到其他类）。Due to theoutliers and the vertines arbitrarily classified，each class does not necessarily todefine a convex set.两个异常值和垂直仲裁类别，并不是必须定义一个连续集。3使用Integer Formulation for the GC ProblemTo describe an integer formulation，let us de fine notation.描述一个integer公式，让我们定义一些说明。 We denote by TK（v）the set {SVK}|v∈H [S]\S}，for K∈{B，R}。By the fication of geodesic convexity，（地质一致性的定义）|S| ≥ 2 forall S∈ TB（v）⋅ TR（v）.3.1变量和价值不等式有两种类型的binary变量已被定义。For everyv∈VBR，av= 1 means that vertexv∈VB（v∈VR）belongs to groupAB（AR），and a v = 0 ifvis disregarded.对于每一个v ∈V BR，a v = 1意味着一个v v ∈ V B（v R）相信组A B（A R），和一个v= 0，如果v是disregarded.On the other hand，for everyv∈VN，pv indicates the class ofv asfollows：if其他手，为每v∈ V N，p v indicates the class of v as follows：如果v作为一个follows，v∈H[AB]（rp. 2）v∈H[R]），thenpv = 0（rsp. r）。pv= 1）;otherwise，ifv does not belong to the convex hulls of both groups，thenpv can beset arbitrarily.（如果v不属于同一批人，那么p v就可以成为任意人。THUS，THE最大化时的建议Formulation Aims atmaximizingV∈BR的avsubject to关于a v+a v≤ |S|，（v∈V B，S∈ TR（v））或（v∈V R，S ∈ TB（v）） （1）W∈Sp v+a w≤ |S|，v∈N，S ∈ TB（v）（2）W∈S-p v+a w≤|S|− 1，v∈V N，S ∈ TR（v）（3）W∈Sav，pu∈ {0， 1}，v∈VBR，u∈VN（4）P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 34671Constraint（1）是对单一组案例中的convex-inclusion inequality的分析。它意味着V∈VBRturns to be an outlier whenever it belongs to the convex hull of a setS ofsample in the opposite class or at least one point inS must be an outlier.在oppositeclass或最后一个点上，在S必须是一个outlier的时候，它会变成另外一个。covering constraints是由（2）和（3）来定义的。Ifv∈VN∈H [AB]（RESP）v∈N∈H[AR]，所以pv必须得到0（rp. p）。（1）。Hence，vcannot lie in the convexhull of both groups of opposite classes contemaneously.在同一时间，在同一时间，在反对的群体中。LetP be the convex hull of the points experience（1）（让P成为满足的普遍性）We denote byevthen-sized binary vector with 1 at theentry v and 0 otherwise.我们拒绝了e v the nThe entry references to the value of the variableav，ifv∈VBR，orpv，ifv∈VN.变量的值是v，v ∈ V，r. Since the n points《自己之点》|v∈V} clearlyrepresent feasible solutions for P and are all linearly independent points，P（P）是清晰的代表性强的解决方案，且所有线性独立点都是P。72P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 3463⎧⎪⎪Σ⎩Σ∈这是全尺寸的。这一系列的研究成果来自于对地理约定组合的信心，而这些组合不能在一个欧几里德空间中找到。2.1若v，vJ∈VB and w，wJ∈VR are distinct vertexes such that（若v{v，vJ}Dww′and{w，wJ}Dvv′，thenav+av′+aw+aw′≤2（5）这是P的公平性。PR或OF。）（萧）（山）（的）（眼）（，）（没）（看）（过）（，）（没）（有）（看）（到）（到）（了）（，）（没）（有）（有）（什）（么）（，）（没）（有）（有）（一）（样）（，）（没）（有）（什）（么）（么）（，）（没）（有）（一）（个）（个）（大）（小）（家）（。 To showthat it fines a facet of p，to show that it fines a facet of P，to a facet of P，to showthat it fines a facet ofP，to显示出这是一个关于P的事实， 我们考虑在同等条件下提供有效的解决方案（5）。这些解决方案中的Each one与一个vertexu∈V相关，并且由一个n-sized binary vectorau表示。我们考虑的n个合理的解决方案是后续：其中v+ew，ifu =v其中v+ev′，ifu=vJev′+ew，ifu=wau=其中v′+ew′，ifu=wJev+ev′+eu，ifu∈VB\{v，vJ}ew+ew′+eu+Σez，ifu∈VR\{w，wJ}zV∈N∈H[{u，w′}}⎪ev+ew+eu，ifu∈VNTo show that they are a nely independent，letαu∈R，for allu∈V，bemultipliers such thatu Vαu au = 0.到显示它们是独立的，让α R ∈ R，为所有u∈ V，是多pliers suchthat u uu 第一个注意，The variableau，for allu∈V。{v，v，w，W}，即只在一个u处设置为1。Thus，αU= 0 in these cases and，consequently，因此，α v+α v′av′+α waw+α w ′ a w ′ + u ∈ V N α u = 0，αv ′a v ′ +α w ′ aw′ aw ′ +u ∈VNα u=0。 Amongthesolutionsassociatedwith the vertes in V N，the variable pu gets 1 only in a u .一个解决方案产生了一个V N中的垂直，变量p ugets只有一个u中的垂直。 0 in these，α= 0inthese，家是好的。对于多个复刻器，我们有αV+αV′=0αv′+αw+αw′=0αv+αw= 0αW′=0⎪⎨P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 34673whi chimpliesthatα v′=α w′=α w′ = 0，α v ′= α，α v ′ =0，α，α v = α，因此，在此之前，有一种解决方案是nely独立的。Q3.2Checking for Feasibility功能特色尽管convex-inclusion和covering constraints可能很长，但随后的lazy constraint方案对于检查integer解决方案的功能74P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 346∈他们买了两个步骤。首先，我们看起来为违反匹配内容或覆盖约束的pair（v，S）。到最后，它是明确的计算的最大值，AB和AR，的解决方案（a，p）在hand，并检查在哪里是：v v∈N∈H[AB]∈H[AR]：在这种情况下，we de fineS =AB ifpv = 1 orS =AR ifpv= 0。v∈B[AR]：S定义为aR。 v∈R∈H[AB]：S定义为AB。确定一个W S是最小的（即第二步一致性）。，v/∈H[W\u]，for anyu∈W），以及对应内容包含或覆盖针对（v，W）的直项被违反。当强奸的契约被添加到模型作为一个懒惰的契约。小子集W可以被确定为跟随O（n4）算法。We start withW =Sand，as long as there exists a vertexu∈W such that the convex hull ofW\{u} stillreachesv，then we removeu fromW .我们开始与W =和，因为长了那里，我们从W删除U。当我们成为最小的时候，这个过程就是最小的。To calculate the convex hull S of A B（or A R），we start with SJ= A B（orSJ= A R）and iteratively update it. At each iteration，we add to SJall verteses inD uv，for every pair u，v SJ（with at at least one of them added to SJin theprevious iteration）.我们在A B（或A R）中添加了S j所有的垂直，为每一个暂停u，v S j（在previous迭代中增加了它们的最后一个）。这一步是重复的，直到SJ不改变。在这一点上，我们得到了S=S。设置DUV可以被确定一个先验与BFS-like algorithm描述在下一节。4算法与计算实验Algorithms and ComputationalExperiments在这一节中，我们描述了解决问题的方法以及如何实现它。我们目前还收到了一些与英特尔i7-7700处理器一起交付的计算机实验结果。6GHz，8 chores and 32 GBRAM memory，running a 64 bits Linux OS. The algorithms were coded in C++，and CPLEX 12. 6 GHz，8 chores and 32 GB RAM memory，running a 64 bitsLinux OS. The algorithms were coded in C++，and CPLEX 12 . 6 GHz，8 chores andCPLEX 12 . 6 GHz，8 chors and 32 GB RAM内存，运行在64位Linux操作系统中的算法编码在C+，和CPLEX 12. 8个方面是最优解。基本上，我们嵌入了由CPLEX提供的默认标签和切方法中的分离过程。4.1解决方法Solution Method我们的解决方案方法的主要步骤是后续的：(i) 计 算 短 路 径 （ ComplexityO （ n+m ） ） ： For eachv∈V ， we determinatesetDvw ， for allw∈V\ {v} ， by applying a breadth-firest search algorithmfromv .计算短路径O（n（n + m）），我们确定集合D vw，for all w ∈ V\{v}，通过调用v的一个边界搜索算法。Recall thatDvw builises all internalvertines in all shortest paths fromv tow.在所有短期内从V到W之间购买所有内P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 34675部垂直。(ii) 英文名称：Since a vital solution is obtained by taking all verteses of aclass asoutliers |V B|，|V R|你已经把它当成猫了。(iii) 初始化模型定义：所有不合格（5）被包含在初始模型中，由示例枚举所有集计算在步骤（i）（非约束（1）-（3）被初始化）。76P. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 346(iv) 分区线性放松解决方案：在分支和切树的根节点上，我们用constraints（1）-（3 ） 解决 初 始模 型 的线 性 放松 ，for each pair （ v， S ） with |S| = 2 ，separated as cuts.分离过程是实现作为CPLEX的切回宏。(v) Exact Model Resolution：Starting from the Model Obtained in Step（iv），we add the Integrality Constraints（4）and Solve the Integer Formulation byadding（1）-（3）asLazy Contraints（with a Lazy Callback Procedure）（从模型开始，添加完整性约束（4），并通过添加（1）-（3）as Lazy约束（使用懒惰回调过程4.2Testbed测试To test the developed algorithm，two sets of instances were used in the experi-ments，namely a set of random and a set of real world inspired instances.（试一下开发算法，两种实例集合在实验中使用，命名为随机集合和一组现实世界被启发的 实 例 ） [2019 -12 - 14 00 ： 00 ： 00 ： 00][2019 - 02 - 25][2017][2019 -02][2017 - 09][2017 - 02 - 12][2017][2017：09][2019 - 09][2017：09][2017]|V|D = 100|和|/（n− 1）/2，and p= 100 |V BR的|/n. 对于each combination（n，d，p），我们生成了10个随机实例。There are 1200 random instances in total.在此之前，共有1200个实例。该现实世界的启发机构是来自欧盟的两个数据集- clidean版本的clidean问题，命名帕金森https://archive.ics.uci.edu/ml/datasets.html。这些数据集的一个信息的一个病人被使用到预测新的诊断。我们已经解决了以下10个GC问题的实例：通过构造图G=（V，E）和集合VB和VR来实现数据集。本卷的英文版本为：The vertexsetV represents the samples of the dataset and the edge set is de finned using thetransformation described in[19]。垂直在VB和VR是随机选择的，即20%的垂直未分类的实例生成。在数据集中，未分类的垂直选择类的预测是可用的，并且被用于测试算法的e科学和Accuracy。4.3Random Instances随机实例的实验是用来分析问题的组合方面，注意到的，并添加到模型的约束的具体方面在步骤（三）和（四）。For the sake of comparison，we tested twoother versions为比较之作，我们测试了其他版本从算法到步骤（iv）的删除（iii）。结果是在标签中被总结。1，展示第三个版本的性能，分别测试到一个标准实现，没有额外的约束（即。，消除both steps（三）和（四）。我们可能会注意到，这些不平等（5）是极端的，ective：on average，there were 2。8 |V|不平等增加，并减少了81%的运行时间。The constraints（1）-（3）added when solving theroot node at Step（iv）were very and hever as well.（3）添加何时解决根节点在步骤（四）were very and 在初始模型中设置所有这些都是更好的。 在这里，在这里18 |V|增加了其运行时间的75%，并减少了其运行时间的75%。20. However，usingthe separator for constraintsP. H. M 作者：Araújo et al. /Electronic Notes in Theoretical Computer Science 34677B C算法N. of constraints（1）-（3）N. of inequalities（5）时间减少Step（III） Only只有02. 8|V|81%Step（iv） Only只有18 |V|075%Step（三） and Step（四）2. 1|V|2. 8|V|84%Table 1分离算法（Performance of the Separation Algorithms）（1），for each pair（v，S）with |S| #36825; 3个最好的结果。For为|S|> 3，itshowed to be not practical to use a separation algorithm for them.> 3，it showed tobe not practical to use a separation algorithm for them.使用分离算法不是实用的方法。Regarding the lazy constraints scheme presented in Section3.2 ，itsapplication at Step （ v ） was fundamental to reduce the running time （ withrespect to an im- plementation with all constraints（1）-（3）added to the initialmodel）.第3.2节，它们的应用在步骤（v）was fundamentically to reduce therunning time（with an im-plementation with all constraints（1）-（3）添加到初始模型中。 实际上，这是一个解决问题的过程，没有懒