在线虚假信息：挑战与未来方向

providing countervailing corrective information.1 The social webenables people to spread information rapidly without confirmationof truth, and to paraphrase this information to fit their intentionsand preset beliefs [47]. An example is this public message on Face-book that went viral in Dec 2015: This is Dearborn Michigan afterthe radical Islamic attack in California! These are Isis flags and Isissupporters folks but the media has not reported because of politi-cal correctness, the demonstration, however, was anti-Isis.2 Recentnews data analysis also showed that fake news spread far more31https://www.theguardian.com/media/greenslade/2016/nov/23/heres-the-truth-fake-news-is-not-social-medias-fault2http://www.factcheck.org/2015/12/dearborns-anti-isis-rally/3https://hapgood.us/2016/11/13/fake-news-does-better-on-facebook-than-real-news/4https://www.ipsos-mori.com/researchpublications/researcharchive/3742/the-perils-of-perception-and-the-eu.aspx5https://www.facebook.com/zuck/posts/10103269806149061;https://www.facebook.com/zuck/posts/10104445245963251?pnref=story5950在线虚假信息：挑战与未来方向0Miriam Fernandez知识媒体研究所，英国开放大学，米尔顿凯恩斯，英国 miriam.fernandez@open.ac.uk0Harith Alani知识媒体研究所，英国开放大学，米尔顿凯恩斯，英国 h.alani@open.ac.uk0摘要0虚假信息已成为我们数字媒体环境中的常见部分，它正在损害我们社会形成知情意见的能力。它产生了误解，影响了许多领域的决策过程，包括经济、健康、环境和选举等。虚假信息及其生成、传播、影响和管理正在通过各种视角进行研究（计算机科学、社会科学、新闻学、心理学等），因为它广泛影响社会的多个方面。在本文中，我们从技术角度分析了虚假信息现象。我们研究了目前在解决这个问题方面的社会技术进展，确定了当前技术的一些关键局限性，并提出了一些解决这些局限性的想法。本文的目标是反思当前的最新技术发展状况，并促进关于未来算法、方法论和应用程序设计和开发的讨论。0关键词0虚假信息；技术发展0ACM参考格式：Miriam Fernandez和HarithAlani。2018年。在线虚假信息：挑战与未来方向。在WWW '18Companion：2018年Web会议伴侣，2018年4月23日至27日，法国里昂。ACM，美国纽约，8页。https://doi.org/10.1145/3184558.318873001 引言0虚假信息产生了误解，影响了许多领域，包括经济[4]、健康[24]、气候变化[44]、外交政策[37]等。它已成为我们数字媒体环境中的常见问题[26]，并且正在损害我们社会形成知情意见的能力[22][35][11]。2016年，术语“后真相”被牛津词典选为年度词汇，此前在“英国脱欧和美国总统选举的背景下”增长了2000%。如今，全球约有一半的人口可以访问互联网，在那里他们可以即时全球范围内创建、传播和消费信息。虽然虚假信息在所有媒体中都是一个常见问题，但在数字社交媒体中，由于帖子传播的速度和便利性以及提供相反修正信息的困难，它变得更加严重[47]。一个例子是2015年12月在Facebook上疯传的这条公开信息：这是加利福尼亚激进伊斯兰袭击之后的迪尔伯恩密歇根！这些是ISIS旗帜和ISIS支持者，但媒体没有报道，因为政治正确，然而，示威活动是反ISIS的。最近的新闻数据分析还显示，假新闻的传播远远超过真实新闻。0本文根据创作共用署名4.0国际（CC BY4.0）许可证发布。作者保留在个人和公司网站上传播作品的权利，并附上适当的归属。WWW '18 Companion，2018年4月23日至27日，法国里昂，© 2018IW3C2（国际万维网会议委员会），根据创作共用CC BY 4.0许可证发布。ACM ISBN978-1-4503-5640-4/18/04。https://doi.org/10.1145/3184558.31887300最近，一些社交媒体平台因为成为虚假信息传播的温床而受到严厉批评，包括假新闻、谣言和恶作剧。它们被指责在重大事件期间，如美国总统选举和英国脱欧公投期间，通过广泛传播的错误信息来混淆人们的观点和判断。为了应对这一问题，Facebook和Google宣布了打击虚假信息传播的计划。然而，尽管其中一些计划正在实施，但它们被认为只提供了对日益复杂的社会技术问题的部分解决方案。人们和当前的技术尚未适应错误或误导性信息故意或无意地传播的时代[2]。在本文中，我们对现有的社会技术解决方案进行了最新的综述，包括对虚假信息的检测、传播、验证和管理。我们分析了已识别的技术进展的主要优势和局限性，并提出了一些未来的研究方向。本文的目标是反思当前的最新技术发展状况，并促进关于未来算法、方法论和应用程序设计和开发的讨论，以帮助成功解决在线虚假信息问题。本文的其余部分结构如下：第2节确定了当前技术发展的四个主要焦点，包括：（i）在线虚假信息的自动检测（第3节），（ii）虚假信息传播模式及其预测的研究（第4节），（iii）虚假信息的验证和事实核查（第5节）和（iv）用于打击虚假信息的不同干预策略的研究（第6节）。第7节总结了研究工作的局限性。0主题：新闻报道，误导信息，事实核查 主题 WWW 2018，2018年4月23日至27日，法国里昂6https://chrome.google.com/webstore/detail/tweetcred/fbokljinlogeihdnkikeeneiankdgikg?hl=en7https://chrome.google.com/webstore/detail/fake-news-alert/aickfmgnhocegpdbfnpfnedpeionfkbh?hl=en8http://bsdetector.tech/9https://www.theverge.com/2017/12/21/16804912/facebook-disputed-flags%2Dmisinformation-newsfeed-fake-news10https://www.engadget.com/2018/01/19/facebooks-fake-war-on-fake-news/11https://www.engadget.com/2018/01/31/google-tackles-fake-news-in-snippets/5960讨论了我们未来研究方向的想法。讨论和结论分别在第8节和第9节中提供。02 对抗在线误导的维度0为了提供对抗在线误导的现有技术的清晰图景，我们对现有的相关技术进行了广泛的回顾，并根据以下四个维度对其进行了描述：0•误导内容检测：是否自动识别误导内容和来源？是否自动监测信息流？是否识别相关的修正信息？ •误导动态：是否识别和预测误导信息流的模式？是否考虑人口统计和行为信息以理解和预测误导动态？ •内容验证：是否验证和事实核查误导信息？用户是否参与内容验证过程？ •误导管理：是否研究和监测公民对处理和分享误导信息的看法和行为？是否制定干预策略来处理误导信息的影响？0图1展示了用于对抗误导信息的十一种最流行平台的一般性比较。这个比较反映了我们对每个平台在上述四个维度上的关注程度。为了生成这个图像，两个独立的评估员为每个工具的每个维度分配了一个评分（从0到10）。该图像反映了每个维度的两个评估员的平均值。03 误导信息检测0大量的误导信息已被观察到以病毒式的方式在线传播。例如谣言[26]，虚假新闻[10]，恶作剧[39]，甚至复杂的阴谋论[5]。近年来出现了几种方法和工具，根据内容的特征（文本以及多媒体图像/视频）或误导信息的来源和网络来自动或半自动地识别误导信息。常常使用上下文信息，包括误导网站的编制列表和微博特定功能，如Twitter中的标签或提及，来补充上述信息。Castillo和同事的研究[11][12][31]主要基于内容特征研究了Twitter上的信息可信度，并创建了监督式机器学习分类器来检测这种可信度。他们的研究得出的结论是可信的推文倾向于包含更多的URL，并且比不可信的推文更长。此外，问号和感叹号倾向于集中在不可信的推文上，经常使用第一人称和第三人称代词。这些研究导致了TweetCred系统的创建。0一个实时的基于Web的系统（作为浏览器扩展程序可用）0评估Twitter上内容的可信度。该系统为每个推文提供一个可信度评分，该评分基于先前生成的分类器，并通过询问用户反馈来验证该评分。类似的工具包括Fake News Alert7作为浏览器扩展开发。0和B.S.Detector，8它们依赖于手动编制的误导性网站列表，例如由Zimdars[72]生成的列表和基于已维护有争议声明列表的网站爬取生成的Dispute Finder[20]。Qazvinian和他的同事[55]还研究了用于检测错误信息的内容特征。他们得出结论，词汇和词性（POS）模式对于正确识别谣言至关重要。标签可以获得很高的精确度，但召回率较低。除了对内容的分析，其他工作和系统还专注于使用网络分析技术来检测错误信息[57][59][31][26]。研究表明，存在着不同的传播模式，以区分错误信息和合法的模因，错误信息模式以更具传播性的方式传播[26]，通常是由机器人而不是人类生成的[57]。另一方面，可信的新闻往往源自网络中的一个或几个用户，有很多转发，并通过之前写过大量消息并注册了更多朋友的作者传播[31]。用于检测和显示错误信息传播的工具包括Truthy [57]、RumorLens [58]和Twitter trails[46]。这些工具基于半自动的方法，用户可以通过交互式仪表板探索谣言的传播。然而，它们不会自动监控社交媒体流以检测错误信息，而是需要用户输入特定的谣言进行调查。为了解决这个问题，Shao[60]和他的同事开发了Hoaxy[60]，这是一个自动监控社交流、检测和分析在线错误信息的平台。Facebook最近推出了新工具来帮助打击虚假新闻的传播。与Hoaxy不同，Facebook工具不仅使用内容和网络分析的组合，还包括用户反馈来准确识别假新闻。该系统正在不断开发和测试。然而，当前打击错误信息的努力受到批评，因为它们在防止平台滥用方面做得不够。Google打击错误信息的提议还包括通过在片段框的底部提供链接向用户征求反馈。正如可以观察到的，当前的错误信息检测系统的一些局限性包括：(a)提供没有任何理由或解释的警报，以及(b)通常将用户视为被动消费者而不是主动的共同创造者和错误信息的检测者。还有一个要考虑的因素是，基于已知特征的自动错误信息检测系统可能会被愚弄，精心制作的错误信息可能会被忽视。0跟踪：新闻报道、错误信息、事实核查跟踪WWW 2018年4月23日至27日，法国里昂5970图1：根据四个确定的维度进行的相关平台比较04 错误信息动态0在线社交网络的特点是同质性[45]、极化[17]、算法排名/个性化[53][29][3]和社交气泡[49]。这些特征创造了内容多样性较低、社交强化较强的信息环境，这对用户所接触到的信息以及信息传播方式产生了影响。所有这些因素，再加上快速的新闻生命周期[14]，都会影响社交新闻分享的动态，特别是错误信息的产生和传播方式。Ratkiewicz[57]在政治竞选的背景下分析了错误信息的传播，并展示了在其初始阶段，错误信息的传播呈现出病理扩散图。这些图形可以采取多种形式，包括具有很多唯一注入点但几乎没有连接组件或强大的星形拓扑结构。然而，一旦社区接受了错误信息，它的传播级联将很快变得难以区分，因此早期识别错误信息至关重要。这项工作还强调了机器人在错误信息传播过程中发挥的重要作用。Boshmaf [8]和Freitas[25]报告说，产生内容并增加关注者的简单自动化机制可以成功渗透错误信息。然而，没有人确切知道社交媒体上有多少社交机器人，或者有多少内容，特别是错误信息，可以归因于机器人[21]。类似的危险现象是众包，其中雇佣众包工作者来支持和传播论点或主张，模拟基层社会运动[68][40][41]。Del Vicario[18]研究了错误信息的传播，并报告说，用户主要倾向于基于同质性（回声室）选择和分享内容，导致强化和培养确认偏见、隔离和极化[5]，这种效应被平台的个性化和排名算法[53][29][3]所加剧。这也得到了[62]的证实，他得出结论说谣言传播者形成了强大的党派结构。Del Vicario0还表明不同类型的错误信息传播方式不同。虽然科学新闻周围的错误信息传播速度更快，但衰减也更快。另一方面，阴谋论传播速度较慢，但传播时间更长。Friggeri[26]研究了Facebook内谣言的传播，并得出以下结论：（i）网络内的错误信息级联比非错误信息级联更深入，（ii）即使被否认，谣言级联仍然继续传播，因为非被否认的转发次数比被否认的转发次数多得多，（iii）谣言可以在几周或几个月内处于休眠状态，然后再次流行起来。[74][60]的最新研究还发现，错误信息传播速度更快、范围更广，而事实核查的内容通常比错误信息滞后10-20小时。这些研究还表明，错误信息传播主要由少数非常活跃的账户主导，他们承担了宣传和传播错误信息的重任，而事实核查的传播是一种更分散的基层活动。了解用户[67]及其动机[13]也是理解错误信息动态的关键方面。Wagner和同事[67]研究了用户与机器人和垃圾邮件发送者互动的易感性。这项研究在Twitter上进行，得出结论：易感用户倾向于与许多不同的用户进行交流，使用更多的社交词汇，并表现出比非易感用户更多的情感。同样，[71][13]表明，个性特征影响错误信息动态。外向者和具有高合作性和高奖赏依赖性的个体更容易分享错误信息，但在性别方面没有显著差异。错误信息传播背后的关键动机包括信息寻求和社交。心理学还表明，焦虑水平较高的个体更有可能传播错误信息[34]。Tambuscio [63]和Qiu[56]研究了有限记忆和注意力对错误信息传播的影响。这些研究得出结论，在用户受到高信息负荷和有限注意力影响的社交媒体环境中，低质量信息很可能会迅速传播。尽管所有这些研究对于误传信息的传播方式提供了重要见解，但它们并没有深入分析消费和分享错误信息的社交网络的拓扑结构和类型。同样，需要进行更深入的研究，以了解不仅是人口统计学（年龄、性别、地理位置），而且用户行为如何影响错误信息的传播。0主题：新闻报道、错误信息、事实核查 主题WWW 2018年4月23日至27日，法国里昂Information validation practices are key to identify misinforma-tion.12 More than 110 independent fact-checking groups and or-ganisations emerged online around the world over the past decade,and half of them were established in European countries [30], (e.g.,Full Fact in the UK, Snopes and Root Claim in the US, FactCheckNIin Northern Ireland, and Pagella Politica in Italy, to name just a few).These groups and organisations aim to provide a frontline servicein dealing with false information online following guidelines, such1312http://www.poynter.org/2016/366-links-to-understand-fact-checking-in-2016/440618/13http://verificationhandbook.com14http://wiki.dbpedia.org/15https://skr3.nlm.nih.gov/SemMedDB16www.washingtonpost.com/news/ask-the-post/wp/2013/09/25/announcing-truth-teller-beta-a-better-way-to-watch-political-speech/?utm_term=.b78b7c18722817http://www.politifact.com/18http://www.factcheck.org/19https://www.media.mit.edu/projects/truth-goggles/overview/20http://idir.uta.edu/factwatcher/nba.php21http://idir-server2.uta.edu/claimbuster/22http://twitdigest.iiitd.edu.in/TweetCred23http://truthy.indiana.edu/5980信息验证实践对于识别错误信息至关重要。过去十年中，全球范围内出现了超过110个独立的事实核查组织和机构，并且其中一半在欧洲国家成立[30]（例如，英国的Full Fact，美国的Snopes和RootClaim，北爱尔兰的FactCheckNI，意大利的PagellaPolitica等）。这些组织和机构旨在根据《验证手册》等指南，在处理在线虚假信息时提供一线服务。05 内容验证0然而，事实核查是一种耗时的验证实践，使得与社交媒体的速度竞争几乎不可能。近年来，也出现了计算事实核查的倡议，旨在增强我们评估可疑信息真实性的能力。其中，Ciampaglia[15]利用维基百科图的隐含信息。他们的研究结果表明，网络分析方法与大规模知识库结合，对于自动事实核查方法是有效的。Baoxu[61]采用类似的方法，但提出了一种在大型知识图谱（DBpedia14和SemMedDB15）上进行路径挖掘的方法，以利用一系列事实陈述进行自动事实核查。除了对文本来源的分析外，像Boididou和同事的研究[7]还专注于通过构建多个用户和内容特征的分类器来自动验证不可靠媒体内容。事实核查倡议的另一个问题是，它们通常与人群阅读、辩论和分享错误信息的地方相脱节，几乎没有意识到事实核查者提供的任何无效信息。为了解决这些问题，出现了几个旨在将事实核查倡议的结果更接近公众的倡议。例如，华盛顿邮报开发的TruthTeller[16]将政治视频转录并与PolitiFact [17]和FactCheck.org[18]的数据库进行核对。该程序告诉观众哪些陈述是真实的，哪些是错误的。Truth Googles[19]在浏览器插件中实现了类似的方法，也基于这些数据库。Hoaxy[60]将事实核查的努力与持续监测相结合0社交流中的事实检查信息和社交媒体信息同时可供用户使用。FactWatcher[33]通过考虑不同类型的事实（包括情境事实、少数事实和突出事实）来补充以前的方法。与面向普通公众的以前的工具不同，FactWatcher20专注于支持记者创作新闻报道。同样，ClaimBuster 21[32]提供了计算工具，以帮助专业人士理解和验证声明。特别地，它为事实性声明分配分数，指示是否应该进行检查，并提供优先级排序以帮助事实检查人员。众包倡议也被考虑用于验证和验证信息[73]。Facebook最近的一个最新倡议将众包与事实检查人员（包括Poynter和Politifact等）整合在一起，以打击假新闻。用户可以标记故事为假，并看到警告，表明该故事已被第三方事实检查人员争议。像TweetCred 22这样的系统0Trudhy23使用众包工作者对数据进行注释并训练机器学习算法，这些算法可以从人类注释中学习评估推文的可信度。尽管事实检查人员和众包倡议的工作在纠正误信息方面非常有价值，但他们面临着许多复杂的挑战，这限制了他们改变现有错误观念的能力。他们不仅无法跟上在线生成的大量误信息，或者与用户阅读、辩论和分享误信息的地方脱节，而且仅仅由事实检查人员发布纠正信息通常被认为是不足以改变错误观念和意见的。一个人是否接受某个主张在很大程度上受到个人的信仰系统的影响，因为我们通常会寻找证实我们信仰的信息（确认偏见），并且不会仔细审查相反的观点以避免或减轻认知失调（动机推理）[38][71]。此外，PennyCook和同事在最近的一项研究中还强调了“虚假真实效应”在涉及假新闻和纠正信息时的问题[54]。他们的研究显示，重复可以增加似乎准确的但错误的陈述的准确性。Garret和同事还表明，与曝光后的纠正相比，实时纠正可能会导致用户对事实信息更加抵制[28]。因此，重要的是不仅考虑应该提供哪些纠正信息，还要考虑何时、如何以及向谁提供。06 误信息管理0对抗误信息是一项复杂的任务，在心理学文献中有共识认为，仅仅向人们呈现纠正信息很可能无法改变他们的重要信念和观点，甚至可能加强它们[23][50][51][28][54]。人们经常在发现他们已经接受的信息是错误的之后仍然难以改变他们的信念[16][64]。然而，已经发现了一些有效纠正错误观念的策略[43]，例如提供解释0追踪：新闻、虚假信息、事实核查追踪WWW 2018年4月23日至27日，法国里昂24https://www.getbadnews.com25https://blog.twitter.com/official/en_us/topics/company/2018/2016-election-update.html26https://blog.twitter.com/official/en_us/topics/company/2017/Our-Approach-Bots-Misinformation.html27https://www.demos.co.uk/files/Resilient_Nation_-_web-1.pdf5990与其简单地反驳[52]，不如暴露相关但相互矛盾的故事[6]，并揭示对立群体的人口相似性[27]。剑桥大学最近的研究还考虑使用“假新闻疫苗”来预防这个问题，通过“预先暴露”读者于一小段“虚假信息”的“剂量”来免疫用户。作为这项研究的一部分，已经发布了一个在线游戏24，让玩家体验制造和传播虚假信息的感觉，以便更容易识别它。处理普遍存在的虚假信息的另一种方法是寻求更直接的行为干预，鼓励人们做出某些决策而不是其他决策[42]。试图阻止社交网络中虚假信息传播的工作通常使用三种主要策略：（一）用事实来对抗虚假信息[9][48][70]，（二）在早期阶段检测恶意账户[69][19][41]，以及（三）基于纠正信息的排名和选择策略。在试图用事实来对抗虚假信息的工作中，Budak等人[9]引入了竞争性宣传活动的概念来抵消虚假信息的影响。为此，他们设计了多宣传独立级联模型（MCICM），并研究了多种方法来选择最佳的用户子集作为传播“良好”宣传活动的种子。类似的努力包括[48]和[70]的工作。第一项工作旨在找到“节点保护者”，即最小的一组高影响力节点，其通过良好信息的“净化”有助于遏制虚假信息的传播。第二项工作旨在识别虚假信息的最重要传播者，以在传播中“注入正确信息”。然而，这些信息传播模型存在一些限制。首先，它们基于这样一个假设，即一旦用户被“感染”了“良好”信息，她将在她的网络中传播这些信息。然而，说服用户采纳某种信念并传播它们并不容易[43]。其次，这些工作假设“良好”和“坏”信息的传播模型是一致的，而实际上它们可能并不以相同的速度传播。事实上，最近的几项研究发现虚假信息传播更广泛、更快[74][60]。Twitter最近也采用了这种虚假信息管理方法。该公司通知了超过140万人，告知他们在美国选举期间与俄罗斯政府相关机构Internet ResearchAgency的账户互动。虽然Twitter提到将向一小部分人发送调查以获得反馈，但目前对这一举措的影响还知之甚少。250关于早期检测恶意账户的方法，我们可以提到旨在识别垃圾邮件发送者[69]、机器人[21]、众包[68][40]和恶意账户的工作[19][41]。这些技术通常侧重于分析各种用户、时间、地理和语言特征，以成功识别这些账户。然而，目前尚不清楚在识别出这些账户后应采取什么干预策略来阻止虚假信息的传播。例如，Twitter目前正在暂停与重复或可疑活动相关的账户。260一旦这些账户被识别出来，如何阻止虚假信息的传播尚不清楚。例如，Twitter目前正在暂停与重复或可疑活动相关的账户。260第三种虚假信息管理方法，目前由谷歌和Facebook等组织使用，是收集用户对虚假信息内容的反馈，并将这些反馈作为增强信息选择和排名机制的因素。通过这样做，这些平台旨在避免和/或限制显示和推荐其他用户先前标记为“虚假信息”的内容。07个研究方向0在本节中，我们总结了我们根据我们研究的四个维度所确定的主要限制，并提出了一些针对这些限制的想法。0•误解识别：当前的误解识别方法往往集中在（a）在没有理由或解释的情况下警示用户，以及（b）将用户视为被动消费者而不是积极的共同创造者和误解检测者。•误解动态：大多数当前关于误解动态的研究（a）不分析社交网络的拓扑和类型对误解的消费和分享的影响，（b）不考虑用户的误解处理行为对误解传播的影响。•内容验证：当前的事实核查和众包验证倡议（a）无法应对在线产生的大量误解，（b）往往与用户倾向于阅读、辩论和分享误解的地方脱节。•误解管理：常见的误解管理策略（a）不仅仅局限于生成事实和早期检测恶意账户，（b）往往只关注问题的技术而不是人性方面（即用户在生成和传播误解时的动机和行为）。0从上述摘要中，我们可以观察到当前技术的许多不同和多样的限制，这突出了进一步讨论和研究的各种方向。解决误解这一新的社会挑战需要密切关注用户，并增强他们对误解的抵抗力。因此，未来的技术应该帮助促进：（1）赋权，通过提高个人和集体对当前误解内容和来源的认识；（2）参与，通过促进用户之间的网络和跨界沟通；（3）教育，通过向用户提供先进的误解分析结果和预测；（4）鼓励所有用户在检测、验证和打击误解方面发挥作用。更具体地说，需要在以下几个方面进一步取得进展。0追踪：新闻学，误解，事实核查追踪WWW 2018，2018年4月23日至27日，法国里昂28https://webliteracy.pressbooks.com/;https://fakenews.publicdatalab.org/;https://thetrustproject.org/60007.0.1用户参与。虽然近年来出现了数字素养和媒体素养倡议，帮助用户识别误解，但我们调查的大多数技术似乎并没有密切参与用户来对抗误解，因此将用户视为被动消费者而不是积极的共同创造者和误解检测者。只有少数系统，如TweetCred，涉及用户，但主要是为了验证其误解检测算法的结果。我们的假设是，为了推进技术的发展，我们需要密切让用户参与到误解检测和管理的过程中。社会科学研究已经提供了许多关于如何纠正或限制误解传播的见解和成功方法。然而，将这些见解和成功方法转化为交付工具需要所有利益相关者的参与，包括最终用户、社会科学家、计算机科学家、教育者等，共同设计其功能、用户界面和交付方法。这将增加这些工具的接受度，从而增加对抗误解的影响力。07.0.2误解动态。关于误解动态的探索，我们认为网络的拓扑和类型可能在误解传播中起着重要作用。因此，研究应该研究不同平台上误解传播的相似性和差异性，以及平台特定和网络特定的特征如何影响误解的动态。了解这些动态以及影响它们的用户、拓扑和类型因素，可以用来开发模型，预测特定的误解可能如何、在哪里以及由谁传播。07.0.3用户行为。用户行为可能是错误信息传播的关键因素。研究与错误信息传播相关的行为模式可能有助于更好地预测和控制错误信息的级联效应。通过技术，我们将能够研究各种错误信息干预和纠正技术对用户行为向错误信息的态度产生的影响。许多这样的研究已经在社会科学文献中报道。然而，对大量用户（例如，数十万）进行这样的研究，并在较长时间（例如，几周、几个月和几年）内监测其结果，需要高度自动化。这样的大规模和长期的实验可能会产生难以手动获取的新的或更具代表性的见解。07.0.4内容验证。验证内容是信息控制循环的一个复杂部分。验证事实的真实性和否定事实并不是一项微不足道的任务，特别是考虑到在线信息通常以很大的速度和量产生。然而，我们可以尝试将事实检查员嵌入到用户倾向于阅读、辩论和分享错误信息的环境中。例如，0这可以通过开发浏览器和社交媒体平台插件来实现，这些插件能够评估现有的讨论和共享的文章，并突出显示来自任何已知事实检查网站的相关事实或纠正信息。尽管最近的研究和技术发展以及事实检查网站的兴起，但仍然明显缺乏支持用户验证任何信息的工具。这样的验证可以包括搜索各种事实检查网站的相关文章，并评估信息来源的合法性（例如，它是否来自已知的虚假新闻网站）。许多普通用户可能不知道这些验证行为和可能性，或者缺乏有效执行它们的基本技能。07.0.5错误信息管理。关于制定有效的错误信息管理策略，我们认为了解公民对错误信息的行为、他们对错误信息的意见以及这些意见随时间的演变是成功管理错误信息影响的关键。技术可以用于测试各种错误信息管理政策和技术的有效性，并在规模上进行部署。08 讨论0在这项工作中，我们提供了对解决在线错误信息问题的当前技术发展的概述。由于这个问题的相关性，各个学科（社会科学、计算机科学、传播学、政治学等）不断涌现出新的研究成果。因此，我们意识到这篇论文没有涵盖大量的研究成果。然而，我们希望当前的汇编能够提供对问题的多个方面、现有技术解决方案及其局限性的简单明了的概述。我们还提出了多个研究方向，这是通过进行分析得出的结果。所有这些方向都以用户为中心。我们认为解决错误信息这个新的社会挑战的方法不是让社交媒体平台成为真理的仲裁者，这引发了各种伦理和哲学上的困境，而是紧密地将用户纳入解决方案的一部分。正如前面提到的，错误信息是一个涉及人类、社会和技术因素的复杂问题。因此，我们不能用唯一的视角来看待这个问题。需要进行多学科研究，以设计和开发能够有效对抗错误信息的方法、实践、政策和技术。09 结论0在这篇立场论文中，我们调查了现有的技术发展，以应对在线错误信息问题。我们根据四个关键维度分析了这些工作：（i）错误信息检测，（ii）错误信息动态，（iii）内容验证和（iv）错误信息管理。我们调查了这些工作的局限性，并确定了在所有四个维度中缺乏用户参与和考虑作为一个关键限制。我们随后提出了各种研究方向，重点是将用户作为错误信息技术的参与者和共同创造者。我们希望这篇论文能够引发跨学科的讨论，以提高针对在线错误信息问题的技术发展的效果。0主题：新闻学，错误信息，事实核查主题WWW 2018，2018年4月23-27日，法国里昂6010当前技术发展的现状以有效地解决在线错误信息问题。0致谢。研究由欧盟H2020计划Co-Inform资助，合同编号770302。0参考文献0[1]  Michelle A Amazeen. 2013. 对2012年事实核查的批判性评估。 (2013). [2]  SotiriosAntoniadis, Iouliana Litou, and Vana Kalogeraki. 2015.识别在线社交网络中的错误信息的模型。在“迁移到有意义的互联网系统”OTM联合国际会议上。Springer, 473–482. [3]  Eytan Bakshy, Solomon Messing, and Lada AAdamic. 2015. 在Facebook上接触到意识形态多样化的新闻和观点。Science 348, 6239(2015), 1130–1132. [4]  Larry M Bartels. 2002.超越累计统计：政治感知中的党派偏见。Political Behavior 24, 2 (2002), 117–150. [5]Alessandro Bessi, Fabio Petroni, Michela Del Vicario, Fabiana Zollo, ArisAnagnostopoulos, Antonio Scala, Guido Caldarelli, and Walter Quattrociocchi.2015.病毒式的错误信息：同质性和极化的作用。在第24届世界互联网大会上的论文集。ACM,355–356. [6]  Leticia Bode and Emily K Vraga. 2015.相关新闻中的错误：通过社交媒体中的相关故事功能纠正错误信息。Journal ofCommunication 65, 4 (2015), 619–638. [7]  Christina Boididou, SymeonPapadopoulos, Yiannis Kompatsiaris, Steve Schifferes, and Nic Newman. 2014.社交多媒体计算验证的挑战。在第23届世界互联网大会上的论文集。ACM, 743–748. [8]Yazan Boshmaf, Ildar Muslukhov, Konstantin Beznosov, and Matei Ripeanu. 2011.社交机器人网络：当机器人为了名声和金钱而社交。在第27届年度计算机安全应用会议上的论文集。ACM, 93–102. [9]  Ceren Budak, Divyakant Agrawal, and Amr El Abbadi.2011. 在社交网络中限制错误信息的传播。在第20届世界互联网大会上的论文集。ACM,665–674. [10]  Carlos Carvalho, Nicholas Klagge, and Emanuel Moench. 2011.错误新闻冲击的持久影响。Journal of Empirical Finance 18, 4 (2011), 597–615. [11]Carlos Castillo, Marcelo Mendoza, and Barbara Poblete. 2011.推特上的信息可信度。在第20届世界互联网大会上的论文集。ACM, 675–684. [12]Carlos Castillo