AI-SocialDisaster：用AI分析社交媒体，提供灾难情报的软件

软件影响13（2022）100319原始软件出版物AI-SocialDisaster：基于AI的软件，用于识别和分析社交媒体Fahim K. 苏菲派澳大利亚联邦政府自动清洁装置保留字：人工智能在自然灾害决策支持系统全球灾害分析灾害情报应用社交媒体监测Twitter分析软件A B标准AI-SocialDisaster是一个决策支持系统，用于识别和分析地震，洪水，火灾等自然灾害，使用社交媒体源。它捕获实时社交媒体消息，然后使用基于自然语言处理（NLP）的算法，如实体检测，类别分类和情感分析，以识别和定位各种自然灾害。此外，使用基于人工智能（AI）的算法，如异常检测，回归和聚类，AI-SocialDisaster为灾难规划者和战略家生成基于AI的见解。 该软件可以通过Windows、iOS和Android应用程序从各种设备（包括手机、平板电脑和台式机）访问。 AI-SocialDisaster可在https://github.com/DrSufi/DisasterAI上获得。代码元数据当前代码版本v2用于此代码版本的代码/存储库的永久链接https://github.com/SoftwareImpacts/SIMPAC-2022-65可复制胶囊法律代码许可证MIT许可证使用的代码版本控制系统无使用DAX、Microsoft Power Query、M语言、Microsoft Power BI、Azure认知服务的软件代码语言、工具和服务编译要求、操作环境和依赖关系Microsoft Power BI Desktop如果可用，请链接到开发人员文档/手册问题支持电子邮件research@fahimsufi.com1. 软件描述AI-SocialDisaster是一款提供灾难情报的软件通过使用人工智能（AI）服务和算法实时捕获和处理社交媒体消息[1]。该软件的用户可以获得一系列AI驱动的见解，如下所示：1. 灾难发生在哪里？2. 何时在与灾难有关的推文上突然爆发负面情绪（即，当灾害发生时，？3. 什么是灾难相关的负面情绪？4. 一种灾害与其他灾害有何相似或不同之处5. 为什么会发生（即，解释）？通 过 iOS 、 Android 和 Win-10 应 用 程 序 的 多 平 台 访 问 ， AI-SocialDisaster能够使用基于自然语言处理（NLP）[2]的实体识别、情感分析、类别分类以及电子邮件地址：research@fahimsufi.com。https://doi.org/10.1016/j.simpa.2022.100319与其他基于AI的算法，如异常检测[3]，线性回归[4]，逻辑回归[5，6]和聚类。使用该软件，灾害战略家和规划者可以理解特定地区的灾害特征，总体准确率为97%，如[1]所述。政策制定者和城市规划者也可以从这个系统中受益，为灾害政策的实施制定基于证据的指导[1]。政治领导人和外交官也可以使用该系统来确定与受灾团体，政府和非政府机构的外交关系，以提供支持和救济。2. 软件特征体系结构AI-SocialDisaster已经使用基于Microsoft的生态系统实现了端到端自动化，该生态系统包括Microsoft Power Automate，crosoft Power BIDesktop，Microsoft Power BI Service，Microsoft Power接收日期：2022年5月14日;接收日期：2022年5月16日;接受日期：2022年5月18日2665-9638/©2022作者。由Elsevier B.V.出版。这是一篇开放获取的文章，使用CC BY许可证（http://creativecommons.org/licenses/by/4.0/）。可在ScienceDirect上获得目录列表软件影响杂志 首页：www.journals.elsevier.com/software-impacts法光苏菲派软件影响13（2022）1003192表1AI-SocialDisasters的功能及其技术组件支持。功能Microsoft Power查询Microsoft PowerAutomateAzure认知服务Microsoft PowerBI DesktopMicrosoft PowerBI服务捕捉灾难推文语言检测翻译服务情绪分析软件实体识别系统产品分类分类异常检测回归分析自动聚类分析适用于Windows的仪表板基于Web的访问手机/平板电脑上的iOS应用程序Android应用程序在移动/平板电脑Fig. 1. 在ArchiMate企业架构建模语言中描述了AI-SocialDisaster的架构，业务层和应用层涉及动机，主动结构和行为方面。（关于此图例中颜色的参考解释，请读者参考本文的网络版本Query和Microsoft Azure认知服务，如[1]中所示。该软件支持多种功能，如捕获与灾害相关的实时推文，自动推文语言检测和翻译，推文情感分析，推文中的实体识别这些功能由AI-SocialDisaster中使用的一个或多个软件组件支持，如表1所示。如表1所示，Microsoft Power Query和Microsoft Power Automate都用于捕获有关灾难的实时Twitter提要。Microsoft Power Automate和Microsoft Azure Cognitive Services异常检测（折线图可视化的一部分）[1 ， 9AI-SocialDisaster 的 功能 可 以 通过 几 个支 持 的接 口 访 问， 如Windows，iOS应用程序，Android，由Microsoft Power BI Service实现。图图1显示了AI-SocialDisaster的架构图，由业务层（黄色）和应用层（蓝色）组成。图中使用的紫色元素。 1代表了AI-SocialDisaster的目标，它们是Archimate 3.1系统规范的动机方面的一部分[14]。如图1所示，几个软件技术组件以集成和无缝的方式工作，允许用户获得灾害情报（例如，当灾难发生在哪里，灾难之间的相似性或不同性，是什么在驱动灾难社交媒体空间中的相关消极性以及许多其他因素）。在第4节中，我们将探讨AI-SocialDisaster如何支持基于证据的战略决策的几个用例。3. 软件算法方法学AI-SocialDisaster中的算法使用了一系列基于AI的特征提取技术，如语言检测，语言翻译，情感分析，类别分类和实体检测，以从非结构化社交媒体消息中提取特征，如我们之前的作品[1，15]所示。所有这些特征提取步骤（例如，语言检测和翻译，情感分析，类别分类，实体检测）使用Microsoft Azure Cognitive Services的文本分析API提取的特征随后被人工智能算法使用，如基于卷积神经网络（CNN）的异常检测、自动K均值聚类和回归（线性和逻辑回归），以产生基于人工智能的对灾害的深刻见解。使用的算法以及从社交媒体消息中生成基于人工智能的自然灾害深刻见解的系统方法如图所示。 二、异常检测、回归和聚类过程的简要细节描述如下：(a) 异常 检测： Microsoft Power BI 给定一个实值序列，即，���������������������其中，������������������ 实施的解决方案借用了频谱法光苏菲派软件影响13（2022）1003193‖‖[客户端]⎤⎥ℎ������21������∈原始序列的vation部分变得更重要。||���∈���1122图二. 利用社交媒体获取关于灾害的深刻见解的方法。从视觉显著性检测域中提取残差（SR），然后将CNN应用于SR模型产生的结果[3]。光谱残差算法包括三个主要步骤：1. 傅里叶变换得到对数振幅谱2. 光谱残差3. 逆傅立叶变换，将序列转换回空间域A（）= A（（））（1）（）=（（））（2）������������������L（）=（A（））（3）AL（）=AL（）.L（）（4）������（）= L（）− AL（）������（5）（）=−1（exp（（）+（���）（6）其中f和f1分别表示傅里叶变换和傅里叶逆变换。其中，λ是具有形状nX1的输入序列，A（f）是序列x的幅度谱，P（f）是序列x的对应相位谱，L（f）是A（f）的对数表示，AL（f）是L（f）的平均谱，其可以通过将输入序列卷积为hλ（f）来近似，其中hλ（f）是qXq矩阵，定义为：Microsoft线性回归的目标是找到能够准确预测连续因变量输出的最佳拟合线。通过找到最佳拟合线，该算法以等式的形式在（九）、=(b) 另一方面，对于分类特征，使用ML.Net的L-BFGS逻辑回归进行逻辑回归逻辑回归是使用监督学习技术的最流行的ML算法之一使用Logistic回归（十）、L−������1=0+11+22+������（10）������������(c) 聚类：本研究采用无监督K-Means聚类，迭代地将数据点分配给K个聚类中的一个。本研究中的K-Means算法用于与Tweet用户有关的数据。这些数据包括好友数、关注者数、转推数、平均积极情绪信心、平均消极情绪信心、平均中性情绪信心等。假设，我们有输入数据点x1， x2， x3，2004年，. . ，x∈ N，K-Means聚类算法随机选取K1⎡⎢十一...1十一...1点作为数据集的初始质心。然后，计算数据集中每个点的欧几里得距离，（ ）=的���⎢⋯⋮⋱⎥（七）到选定的K点，称为聚类质心。给出⎣⎢十一...1⎥⎦两点，p =（p1，p2）和q =（q1，q2），欧几里得距离R（f）是谱残差，即对数谱L（f）减去平均对数谱AL（f）。光谱残差用作序列的压缩表示，而非线性残差用作序列的压缩表示。用Eq. （十一）、���������（ −）2+（��� （−���）第2（11）段最后，使用逆傅立叶变换将序列转移回空间域。结果序列S（x）被称为显着图[3]。异常点的值计算如下：=（在找到每个点与聚类质心的欧几里得距离之后，每个数据点被分配到聚类质心，的距离是最小，作为看到从当量（十二）、 arg min参数参数（参数，参数）2（12）其中，R2是前几点的局部平均值，var是当前滑动窗口内所有点的平均值和方差，并且随机采样N（0，1）���在这这里，dist（）是欧几里得距离。接下来，计算新的质心-通过取每个聚类组中的点的平均值来计算，如从等式2所示。（十三）、在这个过程中，CNN被应用于显着图而不是原始输入，1个���中国（13）使得整个异常检测过程更加高效的模型[3]。这里，Si是分配给i的所有点的集合���ℎ 集群的过程(a)回归：AI-SocialDisaster使用两种不同类型的回归分析（即，线性回归和逻辑回归，如[1，9，12，13]中所述），MS Power BI的关键法光苏菲派软件影响13（2022）1003194影响者视觉，以找到灾难特征贡献与社交媒体帖子上发生的负面程度之间的关系。对于数值特征，使用计算欧几里德距离（用等式（11）），将点分配给聚类质心（具有等式（12））。（12）），并通过取平均值（用Eq. （13））继续几次迭代，直到质心不改变。 在这些迭代结束时，发现K个聚类质心，并将数据点分配给正确的聚类。法光苏菲派软件影响13（2022）1003195图三. 2021年7月10日，Twitter消息流中突然爆发了关于洪水的负面情绪（由CNN基于异常检测发现）见图4。 2021年7月10日，Twitter消息流中突然爆发了关于洪水的负面情绪（由CNN基于异常检测发现）4. 软件演示与案例研究AI-SocialDisaster使用异常检测、线性回归、逻辑回归和K-Means聚类等AI算法回答灾难战略家的什么、哪里、何时、为什么和如何问题。正如我们早期的研究所示，微软 如图所示。3、异常检测识别出了几个异常，这些异常显示了灾难相关推文上负面情绪的突然爆发。2021年7月10日检测到的异常情况是由异常检测算法解释的，即“洪水的负面情绪异常高”。. .”从图中可以看出。3 .第三章。在51%的置信水平下，AI-SocialDisaster检测到洪水（即，灾难事件是什么）与日期/时间信息（即，何时检测到事件在另一个场景中，一位灾难战略家想找出 正在推动与灾难有关的推文的负面情绪，以及该因素如何推动负面情绪。如图所示。4、向灾难战略家呈现显示影响推文中的负面性的因素列表的界面当选择这些因素之一时，“颜色类型是颜色”，问题是如何或为什么这个因素基于NLP的解释是包含“红色代码或琥珀色”等颜色信息的推文通常用于突出飓风和龙卷风 等 灾 害 的 严 重 性 。 因 此 ， 颜 色 实 体 的 存 在 通 常 会 驱 动 AI-SocialDisaster确定的推文中的负面性。图图4还示出了所有特征，如速度、电话号码、百分比、国家地区、事件、组织、音量、温度、城市、州、持续时间、长度、年龄以及实体检测算法发现的条形图内的许多其他实体。在另一种情况下，AI-SocialDisaster通过使用一系列参数的自动无监督聚类来获得不同类型灾害之间的相似性和不相似性，这些参数包括社交媒体用户的关注者，朋友以及社交媒体帖子的转发计数和情绪，如图所示。五、通过使用Microsoft Power BI的表格可视化的自动K-Means聚类，发现了3个灾难集群。应该强调的是，滑坡和登陆都是同一组的一部分（即，第2组）。一般人和灾害战略家使用术语滑坡和登陆指的是同一类型的灾害。有趣的是，通过分析与灾害相关的推文的隐藏模式，AI-SocialDisaster能够理解山体滑坡和登陆彼此相似，因此自动将它们聚类到聚类2下（如图2所示）。 5）。法光苏菲派软件影响13（2022）1003196图五、使 用 自动K-Means聚类发现的各种类型灾害之间的相似性和差异性。如图所示。5，除了显示一个灾难与其他灾难的相似或不相似程度外，自动K均值聚类还显示哪组灾难与其他灾难相比更负面的情绪相关。聚类1对应于具有更多负面情绪的灾害（即，火灾、飓风、洪水等）比其他集群。此外，通过点击任何灾难，所选灾难的位置也显示为检测到的位置实体类型，回答灾难战略家的“在哪里"问题（图11）。5）。我们之前在[1]中使用实体检测来证明灾难的位置，并在[15]中证明COVID-19的位置。5. 软件影响灾难战略家和规划者通常对数据建模和人工智能算法的知识有限。因此，他们的决策过程严重依赖于专家数据科学家的建议，他们手动执行AI模型，然后总结结果。这些任务的依赖性和委托通常会导致决策的显著延迟[1，9，10，12]。AI-SocialDisaster消除了这些依赖性，并允许战略决策者做出即时的基于证据的决策，具有以下优势：a. 它使用基于CNN的异常检测来检测负面社交媒体帖子（与自然灾害相关）的突然爆发，并通知决策者自然灾害何时发生。通过基于NLP的解释，它还可以告知在特定时间发生的灾难类型[1]。b. 它允许发现隐藏的知识，模式，相似性和不同类型的灾难推文中存在的使用自动K均值聚类。c. 它发现了影响灾害相关推文中负面情绪的因素，并解释了这些因素如何影响线性和逻辑回归的负面感知[1]。d. 它使用基于实体分类的技术检测并突出显示来自推文的灾害位置，具有高水平的整体准确性。如[1]所示，平均精密度、重新调用和F1评分的比率分别为0.93、0.88和0.90。e. 它可以由没有AI算法先验知识的用户执行。该系统可以在一组强大的平台中访问，包括基于Android或iOS的移动电话。所以战略决策者在没有任何人工智能算法知识的情况下可以直接从远程定位的手机上使用系统[1]。为了获得上述好处，灾难战略家或城市规划师可以从GitHub源代码控制网 站 https://github.com/DrSufi/DisasterAI 下 载 完 整 的 源 代 码 文 件（.pbix）。使用MS Power BI Desktop下载并打开整个解决方案后，用户可以将解决方案托管到Microsoft Cloud或本地网络中，以便其他研究人员或战略规划人员使用应该注意的是，MS Power BI可以从https免费下载：//app.powerbi.com/网站。在未来的版本中，我们希望将通过社交媒体获得的灾害数据（如[1]所示）与历史事件数据集（如[9，12]所示）合并，以系统地生成更全面的灾难数据集。然后，使用这组强大的灾难数据，我们设想使用其他复杂的深度学习技术（如长短期记忆网络（LSTM），递归神经网络（RNN）等）生成基于证据的见解。此外，使用基于NLP的解释和预测算法，未来版本的AI-SocialDisaster将明确建议和预测即将发生的灾难。竞合利益作者声明，他们没有已知的竞争性财务利益或个人关系，可能会影响本文报告的工作引用[1]F.苏菲岛Khalil，使用基于人工智能的位置智能和情感分析从社交媒体帖子中自动监测灾难，IEEETrans.Comput.Soc.System.（2022）1http://dx.doi.org/10.1109/TCSS.2022.3157142[2] Microsoft文档，在Azure中选择自然语言处理技术，2020年2月25日，[在线]。可查阅： https://docs.microsoft.com/en-us/azure/architecture/data-guide/technology-choices/natural-language-processing。[3] H. 伦湾，巴西-地 Xu，Y. Wang，C. Yi，C. Huang，X. 寇氏T. 邢，M. 杨，J.唐，Q. Zhang，微软的时间序列异常检测服务，KDD&'19：第25届ACMSIGKDD知识发现数据挖掘国际会议论文集，纽约，2019年。[4] H.- F.于角J. Hsieh，K.- W.昌角，澳-地J. Lin，Large linear classification whendatacannot fitin memory ， KDD '10 ： Proceedings of the 16th ACM SIGKDDInternational Conference on Knowledge Discovery and Data Mining，2010。法光苏菲派软件影响13（2022）1003197[5] H. Matthies，G.非线性有限元方程组的求解，国际工程学报。J.努默。方法工程学14（11）1613-1626。[6] J. Nocedal，更新有限存储的拟牛顿矩阵，Math.Comp. 35（151）（1980）773-782。[7] Microsoft 文 档 ， 文 本 分 析 API 文 档 ， 2021 ，[ 在 ─行 ] 。 可 查 阅 ：https://docs.microsoft.com/en-us/azure/cognitive-services/text-analytics/。（2021年8月3日查阅）。[8] Microsoft 文 档 ， 类 别 分 类 模 型 ， 2021 ， [ 在 线 ] 。 可 用 ：https://docs.microsoft.com/en-us/ai-builder/prebuilt-category- 分 类 。 （ 2021 年10月1日查阅）。[9] 法光Sufi，M. Alsulami，使用自动机器学习算法的全球滑坡知识发现，IEEE Access9（2021）131400-131419。[10] 法光Sufi，M. Alsulami，全球事件的自动多维分析与实体检测，情感分析和异常检测，IEEE Access 9（2021）152449-152460。[11]法光Sufi，Ai-GlobalEvents：一个用人工智能分析、识别和解释全球事件的软件。影响11（2022）100218.[12] 法光Sufi，AI滑坡：使用人工智能从全球滑坡数据中获取隐藏见解的软件，Softw。影响10（2021）100177.[13] 法光苏菲，识别负面新闻的驱动因素与情绪，实体和回归分析，国际。J. INF. 经理。数据洞察2（1）（2022）100074.[14] The Open Group，Archimate 3.1规范，2021，[在线]。 可用：https：//pubs.opengroup.org/architecture/archimate3-doc/网站。（已访问）1二零二一年十一月）。[15] F. Sufi，M. Alsulami ，基于人工智能的自动提取面向位置的 COVID-19情绪，Comput。Mater. Continua（CMC）72（2）（2022）3631-3649。[16] 法光Sufi，基于人工智能的灾难分析使用推文，2022，[在线]。可通过以下网址获得：https://github.com/DrSufi/DisasterAI。（2022年4月27日查阅）。