通用领域自适应方法的双C分类器和Reciprocals（CPR）模型

531通用领域自适应的Sungsu Hur Inkyu Shin Kwanyong Park Sanghyun Woo In So Kweon KAIST摘要通用领域自适应旨在通过处理两个转变来在数据集之间转移知识：域转移和类别转移。主要的挑战是正确区分未知的目标样本，同时适应已知类知识从源到目标的分布。现有的大多数方法都是先训练目标自适应的已知分类器，然后依靠单个阈值来区分未知的目标样本。然而，这种简单的基于阈值的方法阻止了模型考虑高维特征空间中已知样本和未知样本之间存在的潜在复杂性。在本文中，我们提出了一种新的方法，我们使用两组特征点，即双C分类器的Prototypes和Reciprocals（CPR）。我们的核心思想是将每个原型类型与相应的已知类特征相关联，同时将倒数从这些原型中推出来，以将它们定位在潜在的未知特征空间中。然后，如果目标样本在测试时落在任何倒数附近，则将其分类为未知。为了成功地训练我们的框架，我们收集了部分的，有信心的目标样本，这些样本通过我们提出的多标准选择被分类为已知或未知。然后，我们另外将熵损失正则化应用于它们。为了进一步适应，我们还应用了标准的一致性正则化，该正则化匹配输入的两个不同视图的预测，以使目标特征空间更加紧凑。我们评估我们的建议，心肺复苏术，在三个标准的基准，并实现可比的或新的国家的最先进的结果。我们还提供了广泛的烧蚀实验，以验证我们的框架中的主要设计1. 介绍基于深度学习的方法在识别任务上取得了显着的成功[9，11，27]，给出了大量的数据，但不能很好地推广到新领域的数据。因此，需要构建小说的标记数据集，这需要大量的标签的时间和成本。无监督域自适应（UDA）通过处理从标记源数据到未标记目标数据的域转移来解决这个问题。然而，传统的UDA方法[30，10，17，24]仅在两个域共享标签空间时执行，这限制了类别转移发生时的适用性。从这个意义上说，几个DA场景最近提出了一个更实用的观点，在域适应期间考虑了OSDA假定存在未在源域中显示的目标私有类。PDA处理源域拥有自己的类的情况。然而，它们的设置与现实世界的困难不一致，在现实世界中，我们无法提前知道两个域之间的标签空间是如何不同的。为了弥补这一点，引入了通用DA（UniDA）[33]来解释源域和目标域之间的类别转换的不确定性。UniDA的目的是建立一个适用于任何类别转移场景的模型，并将目标样本分类为正确的已知类别或未知类别之一。UniDA面临的主要挑战是在将领域知识从源领域转移到目标领域的同时正确地检测未知样本。早期的作品试图用以下技术解决问题：利用领域相似度和熵值计算未知得分[33]，采用多个不确定性关系来确定未知样本[7]，提出了一种熵优化的邻域聚类技术来拒绝未知类别[22]。这些方法都是通过人为设定阈值来确定目标样本的标签空间。OVANet [23]通过采用额外的One-vs-All分类器来处理这种限制，该分类器旨在找到已知和未知类别之间的自适应阈值。尽管他们做出了努力，但他们仍然缺乏捕捉已知和未知样品的独特特性的能力。此外，它们严重依赖于将目标样本划分为已知和未知的单一标准（阈值），这不足以处理现实世界中的类别转移。这两个限制最终导致降级532不仅检测未知样本而且在源和目标域之间适配已知类别的性能受UniDA先前方法中的上述限制的启发，我们建议使用新提出的用于Prototypes和Reciprocals（CPR）的双C分类器来显式地学习已知和未知样本的特征特性。除了标准的原型学习[28]来表示已知的类，我们还采用了互惠的概念[4]来符号化未知的样本。考虑到混合域和类别转移的复杂性，倒易点以课程的方式发现未知的特征空间。在预热阶段，首先在已知源类的未利用区域初始化交互点，其中未知类可能位于未利用区域中。同时，通过一致性正则化，使区域位移逐渐减小。在弱观点和强观点下，目标在预热之后，双分类器具有更好的表示能力来区分已知和未知样本，而不管域。为了忠实地利用它，我们收集了可信的已知/未知样本来调节这两个分类器。为此，我们提出了精心设计的多个标准来过滤样本，考虑到双重分类器的自然属性。给定过滤的已知/未知样本，对应的原型/倒数分别接近它们。通过这样做，倒数明确地定位未知的目标类。通过我们新颖的双分类器和训练配方，源/目标样本的特征分布是对齐的，每个分类器成功地识别已知和未知样本。以下是我们的主要贡献：1. 我们提出了CPR，一个通用的域自适应框架与双分类器，包括可学习的未知检测器称为倒数分类器。该算法利用新提出的目标函数，可以同时捕获已知和未知的特征空间。2. 我们设计了一个新的多准则，以找到更可靠的样本为已知和未知的类，考虑到自然结构的特征空间提取的双分类器和他们的置信阈值。3. 我们证明了我们的新框架下不同的通用域适应基准与广泛的消融研究和实验比较，对以前的国家的最先进的方法。2. 相关工作无监督域自适应。无监督领域自适应（UDA）的主要目的是将知识从源领域转移到目标领域，同时考虑到它们之间的领域转移闭集DA（CDA）是传统的UDA设置，其中两个域共享相同的标签空间。已经提出了利用对抗学习[24，35，14]或自训练[15，36]生成目标样本的伪标签来求解闭集DA的方法。然而，当数据集之间发生类别转换时，这种情况不会执行。受此限制的影响，UDA中的几个场景已经被提出来处理类别转换。其中，部分DA（PartialDA，PDA）处理存在私有源类的情况.为了解决这个任务，大多数方法设计加权方案来在主对齐期间重新加权源示例[3，16，34]。开集DA（OSDA）是另一种处理私有目标类的方法，这种方法在源域中从未见过[19，12，25]。通用域适配。所有上述方法都只关注其固定的类别转移场景，但在现实中，我们大多无法访问源和目标域之间的标签空间关系的先验知识。已经提出了通用域适配（UniDA）来解决该问题。UAN [33]首先引入了UniDA框架，该框架利用加权机制来发现两个域共享的标签集。CMU [7]进一步改进了不确定性的度量，以更准确地找到目标未知类DANCE [22]通过邻域聚类学习目标域结构，并使用熵分离损失来实现特征对齐。最近，OVANet [23]设计了一个对所有分类器来获得未知分数并采用自适应阈值。然而，他们的单阈值方法不能显式地从目标样本中提取未知特征。针对上述不足，本文提出了一种新的原型和倒数双分类器框架，通过多准则选择分别检测已知和未知样本的属性开集识别。[26]首次定义了开集识别（OSR）问题，并提出了一个基本框架来执行训练和评估。随着深度神经网络的快速发展，[1]通过引入Open- Max函数将深度神经网络并入OSR。然后[8]和[18]都试图通过生成对抗网络合成看不见的类的大小训练样本。由于[32]试图将原型学习与OSR的深度神经网络相结合，他们实现了新的最先进技术。原型参考每个类别的代表性样本或潜在特征[32] 引入卷积原型网络（CPN），其中每个类的原型在训练期间共同学习。 [4，5]学习了判别倒数点，533∈∈∈我.∈我 i=1输入的地面实况标签，如使用两个不同的类-我 i=1D{}源靶未知样品原型互惠R(a) 单类倒数点（b）CPR后的倒数点（c）CPR图1：双分类器最初使用标记的源样本进行训练。为了确保倒易点和原型是足够不同的，我们设计了分裂损失，并进一步最小化加权熵损失，使目标样本的信心，无论这些是已知的或未知的样本。OSR可以看作原型的逆概念.在本文中，我们将一个倒数点作为可学习的代表点，以区分3. 方法在UniDA中，存在标记源域Ds=和[r1，r2，. . . ，r K]，其指示K个已知类别的对应的未归一化输出对数。 我们利用softmax函数得到原型 概 率 pp=Softmax （ hp （ f ） ） RK 和 倒 易 概 率pr=Softmax（hr（f））RK。我们还定义了协作概率pc=Softmax（[hp（f），hr（f）]）其中[，]表示两个对数的连接. 对于源域，虽然每个分类器都经过训练，{（xs，ys）}Ns，具有闭（已知）范畴Ls和一个非-标记的目标域t=（x t）Nt，其类别L t可以与L s部分重叠并且可能由开放（未知）类组成。 Ls和Lt分别表示源域和目标域的标签集。fiers [24]，我们通过使用新的边际损失（Sec. 3.1与次级3.2）。对于目标样本，我们首先用两个不同的视图（xt和xt）对它们进行S w活泼地我们的目标是用已知标签Cs或“未知”标签之一来标记目标样本概况. 由于原型是描述相应已知类的特征的点，因此需要其他交互点来帮助模型正确解释未知特征在这个意义上，倒易点[5]被用来符号化未知特征空间，同时也是原始的。分别作为强视图和弱视图然后，我们通过在第一阶段对两个视图的协作概率pc3.3.1）。在下一阶段，我们首先通过伪标签将总输入批次分离为BC和BO类型同时用于指出已知的特征空间，这促使我们为它们开发一个双分类器此外，我们引入多准则选择机制，以有效地适应模型，xtBcargmax（pc）

下载后可阅读完整内容，剩余1页未读，立即下载