社交媒体在紧急救援和准备中的应用及TF-IDF Boosting算法的研究

主题：利用社交媒体进行紧急救援和准备WWW 2018，2018年4月23日至27日，法国里昂1629∈类特定的TF-IDF Boosting短文本分类算法在灾难期间生成的短文本中的应用摘要Samujjwal GhoshIIT Hyderabad海得拉巴，Telangana，INcs16resch01001@iith.ac.in毛南德拉·桑卡尔·德萨尔卡尔IITHyderabadHyderabad，Telangana，maunendra@iith.ac.inTF-IDF特征表示，每个文档或短文本都表示在短文本分类任务中，由于可用文本的数量非常少，特征的正确表达起着重要的作用。在文献中，术语频率-逆文档频率（TF-IDF）通常用于创建用于此类任务的特征向量然而，TF-IDF公式化不利用监督学习中可用的类信息对于分类问题，如果有可能识别出能够在类别之间强烈区分的术语，那么在进行FEA时就可以给予这些术语更多的权重表示为向量，其中字段对应于词汇表中的术语。存储在字段中的值是相应术语的TF-IDF分数。TF-IDF分数是该文档中的术语的术语频率（TF）和语料库中的该术语的逆文档频率（IDF）的乘积在数学上，TF-IDF可以表示为：TF IDF=t fi×logN真正的建设阶段。这可以通过并入额外的类标签相关信息而导致改进的分类器性能我们提出了一种有监督的特征构造方法dd fi其中tfi是项i在文档d中出现的次数，分类推文，基于可操作的信息，可能是DN是语料库中的文档总数，d f是是在不同的灾难场景中发布用于这种分类任务的改进的分类器性能可以在救援和救济操作中是有帮助的。我们使用了三个基准数据集，分别包含2015年和2016年尼泊尔和意大利地震期间发布的推文。实验结果表明，该方法在这些基准数据集上取得了较好的分类性能.关键词信息检索;短文本分类;特征工程;基于熵的特征生成ACM参考格式：Samujjwal Ghosh和Maunendra Sankar Desarkar。2018.用于短文本分类的类特定TF-IDF提升：应用于灾难期间生成的短文本。 In The 2018 WebConference Companion，2018年4月23日至27日，法国里昂。ACM，NewYork，NY，USA，9页。网址：//doi. 沪ICP备11014558号-11引言像tweet这样的短文本由于其长度限制而包含非常有限的上下文信息。 因此，使用机器学习技术对短文本进行分类是一项具有挑战性的任务。在这种情况下，特征向量的正确表达起着重要的作用在使用文本特征的减灾相关文献中，用于特征表示的最常见技术是词频-逆文档频率（TF-IDF）。在本文在知识共享署名4.0国际（CC BY 4.0）许可下发布。作者保留在其个人和公司网站上以适当的归属方式传播作品的权利WWW©2018 IW3C2（国际万维网会议委员会），在知识共享CC BY 4.0许可下发布。ACM ISBN 978-1-4503-5640-4/18/04。https://doi.org/10.1145/3184558.3191621出现术语i的文档数TF捕获文档中的术语的重要性，并且被计算为术语的频率的递增函数。 另一方面，IDF试图衡量一个术语在语料库中的信息量。这里通常的假设是，如果一个术语在语料库中是频繁的，那么它没有太多的信息，而罕见的术语是更多的信息，因此是重要的。IDF被建模为术语的文档频率的递减函数。 这种使用TF-IDF的特征构建策略通常用于分类文本文档-短[24]和长[25]。对于监督分类问题，假设标记的训练数据是可用的。基于TF-IDF的方法在特征构造期间不考虑这些类标签然而，从标记的数据中，可以识别具有区分性的术语，因此可以识别某些类别的强指标。我们希望在特征构造过程中添加不同类别之间的术语重要性（区分能力）作为额外信息。如果一个术语在特定类别中出现足够多的次数，但在其他类别中很少出现，则该术语被认为是有区别的。设t1和t2是在语料库中出现k次的两个术语。然而，t1在所有类别的文档中均匀出现，但t2在类别ci中出现的次数比在其他类别中出现的次数多得多（即cjC;cj≠ci）。项t1和t2的IDF得分将相同。然而，明显的是，项t2具有更大的辨别力，因为其在未来文档中的存在在我们的例子中是类Ci）。我们希望抓住不同术语的这种区别力并在特征构造阶段期间使用该信息在这项工作中，我们提出了技术，提高TF-IDF分数，以更好地代表类之间的长期分布然后，分类器可以利用这些额外的信息来做出更好的决策。这些通用技术可以应用于使用基于词袋的TF-IDF特征的不同应用我们应用了我们的建议主题：利用社交媒体进行紧急救援和准备WWW 2018，2018年4月23日至27日，法国里昂1630方法对灾害相关推文进行分类，以了解其对使用传统TF-IDF的影响和有用性在灾难发生时，人们会在Twitter、微博等微博网站上发布大量的信息。这些帖子中的一些可能实际上包含关于对基础设施的损害、诸如水、药品等资源的需求的用它们包含的信息对这些帖子进行适当的注释可以帮助救援和救济行动，从而减轻受灾害影响的人们的痛苦。在文献中有许多关于正确利用灾害期间生成的短文本以有效地计划救援和救济行动的研究[8]，[10]，[11]，[13]，[18]，[20]，[23]。在这里，我们提出了与灾害相关的推文分类的不同工作的综合摘要。论文[8]提出了使用具有TF-IDF特征的各种算法对灾害相关推文分类的比较研究[10]中的作者提出了一个系统，该系统不仅可以过滤和分类英语推文，还可以处理与台风Lawin（国际名称：Haima）和Karen（国际名称：Sarika）相关的多语言推该系统是通过使用TF-IDF特征与支持向量机（SVM）分类器构建的。虽然[11]主要集中在基于神经网络的方法来检索与灾害相关的微博，但他们使用TF-IDF Rocchio分数来扩展他们的查询，然后在神经网络上使用它们[13]中采用了从未标记的目标数据中学习分类器的域自适应方法，其中作者利用从过去灾难中获得的信息来过滤与新灾难相关的推文。在改进的TF-IDF特征加权朴素贝叶斯分类器上使用自训练技术实现了领域自适应。[18]建立了一个系统，可以通过监控Twitter流来自动检测任何灾难的作者使用朴素贝叶斯和支持向量机作为他们的分类器与TF-IDF为基础的特征向量。在[20]中，作者提出了一种自动文本分类系统，该系统仅过滤与灾害相关的短文本。该方法的工作原理，通过选择突出的TF-IDF功能，使用卡方技术。[23]的作者进行了一项基于匹配和基于学习的方法之间的研究，以过滤灾难期间生成的相关推文。 他们采用了各种技术，如地理标签信息，word 2 vec [17]嵌入以及TF-IDF分数。从这些讨论中我们可以看到，TF-IDF的使用在与灾害相关的推文分类领域非常常见。在这项工作中，我们专注于在灾难期间发布的信息推文分类的任务。我们考虑的示例类是与资源可用性和需求相关的、与基础设施损坏相关的等。即使分类性能的微小改进也可以帮助救援组织查看特定消息，并相应地做出决定以适当的方式引导救援操作。我们使用了三个灾难相关的鸣叫数据集来测试我们提出的功能constrc- tion技术的有效性。在这些基准数据集上，我们的方法显著优于基于TF-IDF的分类方法。本文的其余部分组织如下。在第二节中，我们讨论了TF-IDF评分修正领域的相关工作。 我们在第3节中定义了这个问题。第4节详细讨论了所提出的方法。关于我们的实验设置以及数据集详细信息的讨论见第节5. 最后，我们将在第6节中介绍我们的实验结果。2相关工作在本节中，我们将从文献中查看不同的工作，这些工作涉及TF-IDF修改的变体以用于分类任务。然而，大多数技术是基于特征选择方法，而不是TF-IDF得分修改，其中基于术语的区分能力选择特征的子集。该子集选择可以使用各种方法来完成，如信息增益（IG）[2]、卡方[19]、互信息[26]等。 然而，这些方法没有充分利用词在类中的出现频率. 然而，人们已经试验了不同的TF-IDF修饰技术。下面我们讨论文献中存在的一些这样的方法。[3]中的作者将二元语法与传统的基于一元语法的特征结合在一起，以结合额外的信息。 虽然这种方法不会改变TF-IDF的值，但它们会增加词汇表中唯一特征的数量。 他们表明，增加词汇量可能会提高分类器的性能。[5]的作者在生成特征时使用双正态分离（BNS）代替IDF。BNS根据其区分能力对术语进行排名。作者发现BNS的缩放项的重要性，没有任何特征选择，提高了他们的分类器的准确性。 在[12]中，提出了一种基于熵的方法，称为基于熵的类别覆盖差异（ECCD），在该方法中，他们计算跨类的每个术语的熵，以获得不同类别浓度的术语的重要性。为了解决类别不平衡问题，[14]提出了一种基于概率的术语加权方案，该方案提高了数据点数量少于其他类别的类别的分类器性能 在另一种方法中，使用语义修改的TF-IDF评分对生物医学数据进行分类[15]。使用修改后的特征集的SVM分类器的性能更好。Delta TF-IDF由[16]提出，它修改了TF-IDF分数，以更好地理解博客的情感 Delta部分通过取训练数据的积极和消极情绪的TF-IDF得分的差异来计算。在[21]中，作者使用了类似于IDF的逆类频率（ICF），其表示术语的重要性。 ICF对出现在少数类别中的术语给予最高分，对出现在许多类别中的术语给予最低分。结果表明，使用ICF而不是IDF可以获得更好的分类器性能。[22]显示了使用IG选择最突出的特征而不是使用所有特征的效果。他们发现使用IG提高了他们的分类准确性。[24]的工作提出了用于短文本分类任务的低粒度特征，主要关注中文文本。作者在[25]中还提出了两种基于熵的方法，称为tf.dc和tf.bdc，它们测量类之间的分布集中度（DC）在DC方法中，在类而不是文档上计算第二种方法提出了平衡分布集中度（BDC），它考虑了类大小来计算DC。然而，这些方法中的大多数针对长文本进行了调整，并且不针对上下文信息有限的短文本进行优化。3问题定义我们在这项工作中的主要目标是分类短文本，给定一组短文本和它们的类。该问题可以公式化为：主题：利用社交媒体进行紧急救援和准备WWW 2018，2018年4月23日至27日，法国里昂1631Ic0，c，T F. IDFit>CC1（）下一页KC2C所有类别的计数，即TC=k= 1tck。∑∑令T={tl，t2，···，tN}是N个文本数据点的集合，并且C={1， 2，···，m}是m个类的集合给定一个形式为{ti，ci，···，ci}的映射集，其中数据ti∈T4.2类归一化熵提升在这里，我们提出了第二种方法，它处理了4.1节中提到的低重调用问题。这种方法保留了AC-和类ci，···，ci∈C，我们的目标是找到所有适用的实际TF-IDF得分，并提高类特定术语1K新新数据t的类。作为边信息。这样，我们就可以保留一个...下面我们讨论我们提出在构造TF-IDF特征时利用术语类关系的方法。4该方法我们希望对未见过的短文本进行分类，给定一组短文本及其类标签作为训练数据。考虑到这一目标，我们首先尝试确定衡量术语关系的方法基于TF-IDF的分数的icance，并且还能够对已知的重要术语给予额外的提升在上文第4.1节中描述的熵度量遭受类大小不平衡，主要针对较小的类。 在这种方法中，我们在计算术语的重要性权重（IW）时还考虑了类大小。我们可以如下计算类别c的项ti的IW：tciIW（t）=与不同阶级的关系然后我们看到这些信息ckc可以用来将新的tweet分配给适当的类。对于固有地特定于某些类的术语，我们期望它们的分布集中在这些类中。另一方面，在一项研究中，其中kc表示类别c中存在的项的数目。现在，我们通过根据以下等式考虑熵和重要性来计算类归一化熵（CNE）。通用术语可以大致均匀地分布在iTF. IDF（ti）+（1）A（1）A（）0所有的班级。一种常见的识别存在或不存在这种集中是通过熵。我们计算熵TF. C（tc）=中文（简体）否则的项tiasH（ti）=−∑pi×log（pi）C分母k用作归一化超参数。附加增压的效果可以通过改变增压器的温度来控制其中pi是如果术语ti存在于文档中的概率5实验细节Ci则该文档来自C类。 我们将pc估计为ti在类c中存在的次数与它在所有类中存在的次数的比率。然后，用于计算项ti的熵的公式可以被写为：在我们的实验中，我们使用具有线性核的支持向量机（SVM）[4]作为我们的分类器。许多研究[8]，[10]，[18]，[20]发现SVM在disas中使用TF-IDF特征向量效果最好称为场景。具有三种不同TF-IDF提升方法的SVMMH（ti）=−TCI×log2（tci）.（一）用于实验。TFIDF表示简单TF-IDF值，表示具有归一化熵的TF-IDF值我们c=1tciTCI第4.2节中的另一种方法表示为TF。. 我们也其中tci表示类别c中的项ti的计数，并且tci表示类别c中的项t i的计数。在[12]中讨论的方法被称为ECCD和de-ci m i4.1归一化熵提升一旦我们计算了语料库中每个术语的熵，我们就想得到一个术语对每个类的信息量（集中）的估计。 我们提出了一种基于熵的方法，称为归一化熵提升。我们通过下式计算项ti的归一化熵（NE）：在表4 1中标记为TF.IDFECCD。5.1数据集三个灾难相关的推文数据集被用于实验。[6] 和2017年（FIRE17）[1]数据集，其中包含2015年尼泊尔地震期间发布的推文。FIRE16和FIRE17的类别详细信息分别在表1a和1b中提及。我们还测试了“社交媒体用于紧急救援和准备-NE（ti）=Hmax−H（ti）（2）HMaxnessSMERP17数据集的详细信息见表1c2。我们还通过合并创建了一个自定义数据集其中，Hmax = max ti Hti，并且Hmax表示所有熵的最大值。 我们通过以下等式修改TF-IDF值，TF IDFN E（ti）= TF。IDF（ti）×NE（ti）（3）集中在几个类中的项应该具有较高的NE，而几乎均匀分布在类中的项应该具有较低的NE。虽然TF-IDF NE给出比传统TF-IDF更好的精确度，但是召回率非常低，如表4所示。我们在4.2节中提出了另一种方法来改进将SMERP17和FIRE16数据集表示为FIRE16+SMERP17 1d。 由于类的数量在它们之间变化，我们将FIRE16映射到类似于SMERP17的4个类。两个数据集之间的映射在表3中给出。我们无法找到数据集FIRE16的类5的任何合适的映射，因此我们删除了仅在类5中出现的所有推文。 所有上述数据集被分为训练集和测试集，分别占总可用标记数据的70%和30%。给出了类的详细信息1复制研究的源代码可以在github上找到2需要注意的是，数据计数可能与上述原始数据集不同笨蛋性能超过TF.IDFN E.ter不允许直接分享推文，推文在体验之前被下载如果它被删除或设为私有，则可能无法检索到片段和一些推文k的值。在5.3节中讨论了k的更详细的影响。主题：利用社交媒体进行紧急救援和准备WWW 2018，2018年4月23日至27日，法国里昂1632<相关消息必须提及某些特定基础设施资源的损坏或恢复，例如结构（例如，水坝、房屋、移动塔），通信基础设施（例如，道路、跑道、铁路）、电力、移动或互联网连接等。没有提及基础设施资源的一般性陈述是不相关的。TREC格式。 每个类的描述包含四个字段：类ID、标题（表示类的小标题）、desc（类的简短描述）和narr（该类应考虑的文本的详细叙述）。 下面针对FIRE16数据集的类7和S的类1给出TREC格式的类描述的示例表1：班级编号、标题以及培训和测试数据计数(a) 数据集FIRE16的类特定详细信息类标题列车试验包含与基础设施7基础设施受损修复17874损坏或修复。每节课的平均推文数21191(b) 数据集FIRE17的类特定详细信息类标题列车试验1需求相关四六一二○七2可用性相关一四八五十五每节课的平均推文数三零四一三一(c) 数据集SMERP17的类特定详细信息类标题火车 测试1可用资源228822需资源152623基础设施损坏、恢复、事故14056114救援活动非政府组织/政府255105每节课的平均推文数510215(d)数据集FIRE16 + SMERP17的类特定详细信息类标题列车试验1可用资源2需资源7334023671563基础设施受损修复16106584活动非政府组织/政府494237每节课的平均推文数8093545.2预处理在处理数据之前，我们通过依次执行下面提到的步骤对其进行(1) 首字母缩略词扩展：推文通常使用各种首字母缩略词编写。我们使用了文[9]中给出的词典的修改版本，我们自己增加了一些额外的术语所有的缩写词都被字典中给出的短语/单词所取代。(2) 删除表情符号和非ASCII字符：tweet的另一个普遍问题是表情符号。我们通过模式匹配搜索并删除所有表情符号和非ASCII字符。(3) 大小写折叠：在完成上述所有处理后，所有推文文本都转换为小写(4) 停用词和标点符号删除：在所有上述步骤完成后，我们从tweet中删除了nltk停用词3中存在的任何单词。(5) 特殊字符删除：我们删除了“#”，“@”等字符，但没有删除相应的标签或用户提及。此外，我们删除了一些其他特殊的词，如“rt”，“via”和“amp”，它们不是停止词，但不包含任何值。(6) URL和电话号码处理：任何推文中出现的URL3https://raw.githubusercontent.com/nltk/nltk_data/gh-pages/packages/corpora/stopwords.zip编号：SMERP-T1