社交网络中的信息完整性保护

141社交网络中的信息完整性保护摘要路易斯·加西亚-普埃约Facebook美国门洛帕克lgp@fb.com贝尔纳多·桑塔纳·施瓦茨Facebook美国门洛帕克bsantana@fb.com萨曼莎·格思里Facebook美国门洛帕克samguthrie@fb.com徐宝轩Facebook美国门洛帕克baoxuanxu@fb.com信息渠道。这些网站促进了分发，Facebook和Twitter等社交媒体平台在过去十年中受益于大规模采用，反过来又助长了传播有害内容的可能性，包括虚假和误导性信息。这些内容中的一些通过用户操作（例如共享）获得大规模分发，以至于内容移除或分发减少并不总是阻止其病毒式传播。同时，社交媒体平台实施解决方案以保持其完整性的努力通常是不透明的，导致用户不知道网站上发生的任何完整性干预。在本文中，我们提出了在Facebook News Feed中的内容共享操作中添加现在可见的摩擦机制的基本原理，其设计和实现挑战，以及在平台中应用它们时获得的结果我们讨论了这种干预措施的有效性指标，并显示其积极的完整性结果方面的影响，以及在提高用户对潜在的有害内容病毒的认识方面。CCS概念• 计算方法学→人工智能;机器学习;·信息系统→社交网络。关键词社交网络，诚信，机器学习，共享摩擦，病毒，错误信息ACM参考格式：LluísGarcia-Pueyo，Samantha Guthrie，Bernardo Santana Schwarz，andBaux-uan Xu. 2022年社交网络中的信息完整性保护 在2022年网络会议（WWW '22伴侣）的COMPANION程序，2022年4月25日至29日，虚拟活动，法国里昂。ACM，美国纽约州纽约市，5页。https://doi.org/10.1145/3487553.35242211介绍像Facebook和Twitter这样的社交网站在过去十年中经历了大规模的采用，成为相关的内容分发，本作品采用知识共享署名国际协议（Creative Commons AttributionInternational）授权4.0许可证。WWW©2022版权归所有者/作者所有。ACM ISBN978-1-4503-9130-6/22/04。https://doi.org/10.1145/3487553.3524221消费许多类型的内容，包括有害和低质量的内容。因此，社交媒体平台一直需要实施解决方案来测量，检测和减少此类有害内容的分发[5]，以保持其完整性。社交网站中的内容分发工作如下：用户发布一段内容1，并且内容可用于发布者用户的社交网络内的查看者成员观看者用户反过来可以进一步分享2内容，使其可用于他们的社交网络和追随者。这个循环可以无限地重复，并且分发的内容可以因此以指数模式到达更多的用户。使用这些共享功能的内容快速传播可能有助于把它变成病毒内容完整性问题在危害方面是多种多样的，包括（1）违反社交网络认为可接受的内容3的内容，（2）虽然被接受但由于其低质量而对用户产生不良体验的内容，以及（3）不违反但对某些特定用户产生不良体验的边缘内容 诚信工作包括检测这些类别的内容，并根据所产生的伤害类型采取执法行动。例如，社交媒体网站可能会重新移动不符合其社区标准的内容。作为另一示例，诸如点击诱饵的低质量内容可以在排名中降级以减少其分发。除了这些类型的损害之外，还有一类敏感内容不符合上述类别，但其性质与完整性损害相关。 敏感内容的例子是未经证实的错误信息，过时的文章，高度报道的内容等。 这些内容可能不会被归类为完整性问题，但如果最终确认它们可能是有害的，那么它们的分发可能会带来风险。此外，应用于高风险领域（例如COVID及疫苗接种主题）的此类内容可能对用户构成真正的风险。在本文中，我们提出了一种信息再共享摩擦机制，该机制在共享特定类型的敏感内容之前警告用户，并告知他们共享该内容的风险。该机制包括具有适合于所共享内容类型的信息性消息的插播广告和提示1不同的平台会根据操作的网站2“分享”、“转发”等;取决于平台3违规内容的示例类别可以在Facebook社区标准中找到[5]WWWLluís Garcia-Pueyo、Samantha Guthrie、Bernardo Santana Schwarz和BaoxuanXu142用户确认共享动作应该继续。这种机制的目标是帮助用户识别不良内容并更多地了解与内容相关的相关信息，并减少从病毒式分发中受益的完整性危害的传播。 这种机制已经部署在Facebook的新闻提要，我们提出的经验数据显示其好处。2相关工作我们的工作与减少社交网络中的有害内容、社交网络中的用户控制以及社交网络中的分享行为直接相关。在检测社交媒体排名中的有害内容方面有广泛的工作，包括错误信息[ 12 ]，毒性[ 14 ]，成人和图形图像[ 4 ]等[ 8 ]。 有害内容的减少通常集中在内容层面的理解和排名修改上，这对社交媒体平台中的用户来说是不透明的。在我们的案例中，我们的目标是通过透明和告知用户潜在危害来减少有害内容的披露。该领域的大多数控件都致力于提供用户隐私控件[7][2][9]，我们在第3节[3][15][13]中提供了警告和向用户提供伤害信息的其他参考。 我们的工作是基于这些研究的结果。3用户问题从多项内部研究（定性和定量）中，我们确定了三个核心人员问题，乍一看可能会出现冲突：(1) 用户希望社交媒体公司在整体性危害方面做得更多(2) 用户希望感觉更有权力，更能控制他们的社交媒体体验。(3) 用户希望有机会为他们自己评估信息，但他们也希望有相关的信息这样做此外，通过大量的定性研究，特别是在低识字率社区，研究人员意识到一些用户在评估信息和识别低质量内容方面面临挑战。随着社交媒体平台变得更简单、更时尚，这些挑战只会增加。因此，有一个简单的前端干预，赋予用户权力，让他们了解我们认为有害的方式和内容，这将是非常有益的，而且可能具有很高的用户价值。这种方法也与来自错误信息和完整性学者以及安全工程社区的外部文献保持一致。在那里，研究人员指出，有效的身体警告清楚地传达了风险，不遵守的后果以及遵守的指示（尽管如果风险很明显或者可以从警告中推断出后果，则可以省略其中一些信息）[3]。虽然在重新分享文章的情况下误导性的内容，和一个间隙是一个有效的方式，为他们提供信息，如何避免这样做但是，社交媒体面临着额外的复杂性：数字风险往往难以理解。 一个警告人行道破裂的标志很容易理解[3]。风险是显而易见的[15]。一个潜在的金融骗局的迹象，不那么。用户通常不熟悉术语或复杂的技术“行话”，如“域时代”等短语，他们没有完整的上下文，不能像看到破碎的人行道那样“看到”潜在的风险。当然，这有时是设计-骗局的工作，因为他们看起来像网站和你信任的人。在社交媒体上，风险更加复杂，因为骗局或其他伤害可能会被朋友或页面用户信任，降低用户的怀疑态度水平这种复杂性使社交媒体平台有责任如何最好地传达潜在风险，帮助人们克服认知偏见，更谨慎地做出决策，并帮助用户做出他们在拥有完整信息的情况下会做出的决定。 我们知道，即使是一个小小的暗示，要更加挑剔，也会改变结果[13]。此外，在撰写关于下载警告的可用性和信任度的文章时，[10]得出结论，为了保持用户对警告的高度信任，警告被证明是合理的唯一情况是在其中检测到真正的危险，但仍然有可能该文件不是恶意的。将内部和外部文献结合在一起，很明显，警告是我们减少社交媒体平台上诚信危害的有用工具，同时为用户提供信息，帮助他们在未来做出4执行常规的Facebook News Feed共享流包括在用户按下“共享”按钮之后出现的“Composer”窗口，并且该窗口允许用户在与他们的社交网络共享内容之前在正在共享的内容之上添加文本。 我们将把这个“Composer”窗口称为常规的Facebook News Feed共享流。本文中提出的信息完整性摩擦包括用户点击FacebookNewsFeed内容上的“Share”按钮后显示的间隙，如图1所示。填隙式由信息性消息、“继续”按钮和“返回”按钮组成。信息摩擦仅适用于Facebook News Feed中的某些内容类型，我们称之为目标帖子，并且被确定为适合显示信息摩擦，如第3节所述。例如，被认为包含COVID内容4的信息的目标帖子将适合于示出摩擦。触发摩擦的内容类型的其他示例可以在表1中看到。目标帖子的内容类型决定了插页中显示的文本例如，与COVID相关的内容类型将显示文本This post mentioned COVID-19 Formore info and re-sources ， go to the COVID-19 InformationCenter. 见信息，而误传）。同样的内部研究表明，不想分享某些完整性伤害，如错误信息，4由分类器或文本匹配系统确定。社交网络WWW143图1：在一篇超过3个月的文章上重新分享摩擦内容类型产品描述COVID提供有关COVID的更多背景信息并将用户引导到Facebook疫苗出现在疫苗相关内容上并提供有关疫苗接种的过时的新闻出现在较旧的新闻帖子90天已确认的错误-形成出现在事实上的文章中由第三方事实核查员核查表1：示例再共享间隙疫苗相关内容类型将显示文本这篇文章提到疫苗有关疫苗的更多信息，请访问cdc. gov。.一旦显示了插播广告，如果用户点击“继续”按钮，则用户继续到常规的Facebook News Feed共享流，其允许将目标帖子共享到用户的网络。如果用户点击“返回”或点击间隙外，摩擦关闭，共享流取消。图1显示了一个示例工作流，该工作流针对内容超过3个月的帖子重新共享摩擦。间隙的视觉外观根据所示的平台而不同。因此，例如，在移动设备图2：新冠病毒在手机上的再分享摩擦在桌面浏览器中显示为图3中的弹出样式。WWWLluís Garcia-Pueyo、Samantha Guthrie、Bernardo Santana Schwarz和BaoxuanXu144图3：COVID Re-share摩擦桌面。5实验为了验证该机制的有效性，我们运行了一个查看器级别的A/B测试，该测试测量了Facebook News Feed中这种用户界面变化变更包括第4节中显示的取消率与暴露次数403020101 2 3 4 5 6 7 8 9 10暴露编号分享一个提到COVID相关内容的链接如图2所示，用户界面包含将用户引导到FaceBook的COVID中心站点5的信息和链接，并且还提供关于托管要共享的链接的网站的一些基本信息。通过检测COVID相关内容的多语言正则表达式确定符合本实验条件的内容，准确率为98%[11]。 假设是，考虑到额外的上下文，用户将重新考虑分享可能是虚假或误导的链接，从而减少新闻提要中错误信息的总消费。我们在实验中定义了两个相同大小的组治疗组的用户在分享被归类为COVID相关的链接时确实观察到了间隙，并提供了两个选项：继续分享或返回（取消）。 对照组的用户没有看到插播广告，并继续进入常规的Facebook News Feed共享流。我们在两个主要指标上比较了两组：确认错误信息的浏览总数（即被第三方事实检查员标记为错误信息的帖子[6][1]），以及间隙取消率，其定义为由于按下“返回”按钮（定义为显式取消率）或通过点击间隙之外（定义为隐式取消率）而取消共享过程的次数比率报告的所有数字在95%水平上具有统计学显著性，我们报告了点估计值。实验表明，总的取消率为45.82%，显式取消率为4.51%。我们还观察到用户对图4中新添加的控件的习惯，因为通常会有 在这种情况下，取消率会随着时间的推移而降低并稳定在第五个视图附近。在那些至少看过10次间质的人中，从第一次到第十次间质经历，取消率降低了25pp多次曝光后的稳定性将证明即使在用户习惯之后摩擦也是有用的。如表2所示，一般主题的已确认错误信息的浏览量下降了5.25%，健康相关链接的浏览量下降了12.90%。5 https://www.facebook.com/coronavirus_info/图4：至少10次接触间隙式电极的已确认的错误信息发生率总体意见关于确认的错误信息所有链接-0.44%-5.25%健康链接-1.53%-12.90%表2：经事实核查的错误信息的发生率总体错误信息的减少验证了上述假设请注意，结果是显著的，因为它们对应于观看者级别的A/B测试，并且添加摩擦元素以共享动作的效果将向下游观看者（那些潜在地看到正在共享的内容的观看者）显示其全部潜力。我们计划在未来的工作中探索这种治疗的生产者副作用6结论下一步在本文中，我们提出了一个信息完整性摩擦，部署在Facebook新闻提要中，当用户分享与完整性危害相关的内容类型时会触发。所提出的机制旨在更好地通知用户关于在社交网络中共享的内容，以及防止在这样的网络中的完整性危害的病毒式传播实验结果验证了所提出的方法确实有助于降低社交网络中有害内容的总体流行率。实验结果还表明，该功能在习惯化后仍然有用，这进一步激励了其长期使用。作为下一步，我们计划探索其他机制，为用户提供更多关于完整性危害的控制和上下文信息。取消率%取消率社交网络WWW145引用[1] 产品管理Anna Stepanov，总监。2021.分享我们的内容分发指南。FacebookNewsroom. (Sep 2021 年 ） 。 https://about.fb.com/ 新 闻 /2021/09/content-distribution-guidelines/[2] Pauline Anthonysamy Awais Rashid和Phil Greenwood 2011.隐私政策是否反映了对社交网络的隐私控制？2011年IEEE第三届隐私、安全、风险和信任国际 会 议 和 2011 年 IEEE 第 三 届 社 会 计 算 国 际 会 议 。 1155-1158.https://doi.org/10。1109/PASSAT/SocialCom.2011.150[3] Cristian Bravo-Lillo ， Lorrie Faith Cranor ， Julie Downs 和 SarangaKomanduri。2011. 弥合计算机安全漏洞：一种心智模型方法.IEEE SecurityPrivacy9，2（2011），18-26. https://doi.org/10.1109/MSP的网站。2010.198[4] 托马斯·M·陈2021年 社交媒体平台中的自动内容分类。在网络空间中保护社交网络。CRC Press，53[5] Facebook. [n.d.] 。 Facebook 社 区 标 准 Facebook 透 明 度 中 心 （ [n. d.] ） 。https://transparency.fb.com/policies/community-standards/？from=https%3A%2F%2Fwww.facebook.com%2Fcommunitystandards%2F[6] Facebook. [n.d.]。Facebook的第三方事实核查计划。Facebook透明度中心（[n. d.]）。https://www.facebook.com/journalismproject/programs/third-party-fact-checking[7] Ryan Galpin和Stephen V.花日2011年。 在线社交网络：通过有效的控制和身份管 理 增 强 用 户 信 任 。 2011 年 ， 南 非 信 息 安 全 。 1-8.https://doi.org/10.1109/ISSA.2011.6027520[8] 阿隆Halevy，Cristian Canton-Ferrer，Hao Ma，Umut Ozertem，PatrickPantel，Marzieh Saeidi，Fabrizio Silvestri，and Ves Stoyanov.2020年。保持完整性在线社交网络。CoRRabs/2009.10311（2020）。arXiv：2009.10311https：//arxiv.org/abs/2009.10311[9] 伊琳娜·海姆巴赫和奥利弗·欣茨2018年在线社交网络中共享机制设计对内容 共 享 的 影 响 信 息 系 统 研 究 29 ， 3 （ 2018 ） ， 592-611 。https://doi.org/10.1287/isre.2017.0738arXiv：https：//doi.org/10.1287/isre.2017.0738[10] Kat Krol，Matthew Moroz，and M Angela Sasse.2012年。 为什么是2012年第七届互联网和系统风险与安全国际会议（CRisis）。IEEE，1[11] Igor L.Markov ， Jacqueline Liu ， and Adam Vagner.2021 年 用 于快 速 响 应COVID-19 文 本 分 类 的 正 则 CoRRabs/2102.09507 （ 2021 ） 。 arXiv ：2102.09507https://arxiv.org/abs/2102.09507[12] Kellin Pelrine，Jacob Danovitch和Reihaneh Rabbany。2021年错误信息检测的简单基线的惊人性能 在网络会议2021（卢布尔雅那，斯洛文尼亚）（WWW '21）的会议记录。计算机协会，纽约，纽约，美国，3432-3441。https://doi.org/10.1145/3442381.3450111[13] Gordon Pennycook，Jonathe McPhetres，Yunhao Zhang，Jackson G Lu，and David G Rand.2020年。打击社交媒体上的COVID-19错误信息：可扩展的准确性干预的实验证据 心理科学31，7（2020），770-780。[14] 马丁·萨维斯基布兰登·罗伊和黛布·罗伊2021年Twitter上有毒对话的结构。在网络会议2021（卢布尔雅那，斯洛文尼亚）（WWW '21）的会议记录。 计算机协会，美国纽约州纽约市，1086-1097。https://doi.org/10.1145/3442381.3449861[15] 迈克尔·S·沃高特。2006年。警告手册。Press.