社交机器人和假新闻在社交媒体中误导大众

15570这是误导时代吗？结合社交机器人和假新闻欺骗大众0PatrickWang巴黎高等电子学院法国巴黎patrick.wang@isep.fr0RafaelAngarita巴黎高等电子学院法国巴黎rafael.angarita@isep.fr0IlariaRenna巴黎高等电子学院法国巴黎ilaria.renna@isep.fr0摘要0社交媒体是提高公众曝光的绝佳平台。任何人，甚至是社交机器人，都可以接触到广大社区并表达自己的观点。但是，当假新闻在社交媒体上（不）有意传播时会发生什么呢？本文回顾了可以用于制造假新闻的技术，并描述了一个场景，社交机器人在完全语义Web中演变，用自动生成的欺骗性信息感染社交媒体。0CCS概念0• 信息系统 → 万维网；社交网络；互联网通信工具；•以人为中心的计算 → 社交内容分享；0关键词0社交机器人，社交媒体，欺骗性信息，语义Web0ACM参考格式：Patrick Wang，Rafael Angarita和IlariaRenna。2018。这是误导时代吗？结合社交机器人和假新闻欺骗大众。在WWW'18Companion：2018年Web会议伴侣，2018年4月23日至27日，法国里昂。ACM，纽约，美国，5页。https://doi.org/10.1145/3184558.319161001 引言0社交媒体可以定义为建立在允许用户创建和交换内容的意识形态和技术基础之上的一组基于互联网的服务[18]。毫无疑问，社交媒体对我们社会的每个方面都产生影响。其中一些方面包括：社交交流、友谊和社区的建立，甚至是专业广告。社交媒体有时对社会产生积极影响，可能是近期出现的最具破坏性的技术之一。例如，大规模在线开放课程（MOOC）为任何有互联网连接的人提供免费的一流教育。社交媒体还有助于增加工作满意度[14]，促进社交关系[8]，组织努力应对灾难后果[22]。然而，社交媒体也是三种滥用的场所：过度使用、恶意使用和意外后果。0本文根据知识共享署名4.0国际（CC BY4.0）许可发布。作者保留在个人和公司网站上传播作品的权利，并附上适当的归属。WWW'18 Companion，2018年4月23日至27日，法国里昂©2018IW3C2（国际万维网会议委员会），根据知识共享CC BY 4.0许可发布。ACM ISBN978-1-4503-5640-4/18/04。https://doi.org/10.1145/3184558.31916100例如，[21]指出了社交媒体对成瘾和“Facebook抑郁症”的风险；[31]显示了用户在社交媒体上花费的时间与焦虑之间的相关性；[21]警告了网络欺凌、网络跟踪或在线骚扰的危险；[4]最近揭示了一款社交活动追踪器在战区披露美国军营位置的案例。有些情况可能会同时涉及多种滥用类型。例如，Twitter聊天机器人Tay在存在的第一天就变成了“一个邪恶的希特勒崇拜、乱伦推广、布什参与911事件宣传”的机器人[16]。恶意用户利用Tay的学习算法宣传冒犯性观点，而Tay背后的科学家们对这样的事件没有做好准备。这个例子有些滑稽，但社交媒体的滥用可能会产生更加戏剧性的后果。2016年，社交机器人在美国总统选举期间传播假新闻的风暴在社交媒体上出现[3,5,27]。在[5]中提出的一项研究中，研究人员在最后一次投票前的四个星期内收集了Twitter数据，以估计这种现象的规模。他们的结果显示，社交机器人占所有账户的15%，产生了大约19%的推文。这些数字令人担忧，并表明这些社交机器人在扭曲公众辩论中所起的作用。欺骗性信息像传染病一样传播[19]，我们越来越频繁地接收到虚假信息。虽然存在防止虚假信息传播的技术，但用户 - 尤其是有影响力的用户 -在社交媒体上面对新闻时必须进行批判性思考。但是，如果社交媒体被假新闻污染得几乎无法传达可信信息，会发生什么呢？本文设想了这样的情景。我们首先定义了欺骗性信息，然后列出了现有的制造欺骗性信息的技术，并描述了信息在社交媒体中的传播方式。然后我们介绍了社交机器人以及它们如何制造和传播欺骗性信息。最后，我们提出了一些可以避免这种情况发生的行动。02 欺骗性信息 2.1 制造，讽刺，大规模恶作剧0社交媒体的性质使得任何用户都可以创建和传播内容，几乎没有第三方过滤或事实核查。其结果是任何人都可以从事业余公民新闻工作，有可能（不）自愿地参与欺骗性信息的传播。01 这大约代表了280万个帐户生成的2000万条推文。0Track: Re-Coding Black Mirror WWW 2018, 2018年4月23日至27日，法国里昂15580信息。事实上，大多数成年人在社交媒体上获取新闻[10]，研究表明，接触虚假新闻的人认为它们是准确的[17]。新闻欺骗是指隐瞒真实信息或提供虚假信息的行为[7]。这种现象并不新鲜：1865年，《太阳报》发表了《伟大的月亮骗局》一文，讲述了在月球上发现生命和文明的故事。严肃的制造，幽默的假货和大规模恶作剧是[26]中列出的三类欺骗性信息。严肃的制造涉及制造相对较小影响力的欺骗性信息。分发渠道的例子包括黄色新闻，小报或在线网站[3，26]。它们的内容集中在一个唯一的位置，并且仍然主要由人类手段产生，这减少了严肃制造迅速传播的能力。幽默的假货在网上传播，往往以类似主流新闻的格式呈现。一个流行的例子是《洋葱报》，它自称为“美国最好的新闻来源”。虽然它们一开始可能令人不安2，但我们认为幽默的假货有时可以因其严重的讽刺性质（以及有时的流行度）而被标记。最后，大规模恶作剧以协调和复杂的制造为特征，通过多个平台传播，以便被主流或社交媒体转发。正如其名称所示，这种类型的欺骗性信息通过其操作规模与严肃制造区别开来。事实上，目标是迅速触达大量受众，并有效地传播虚假信息。最近一个涉及多个渠道的案例是哥伦比亚化学品厂爆炸谣言，该谣言通过短信、Twitter、Facebook和YouTube传播。02.2 制造欺骗性信息0数字信息可以采用文本、音轨、图片或视频的形式。已经存在许多流行的工具用于篡改图片或视频（例如Photoshop或AfterEffects）。在本节中，我们介绍了可以用于制造欺骗性信息的最新技术，这些技术对公众来说较为陌生。自然语言生成是一个研究领域，致力于设计能够以自然语言生成有意义文本的计算机系统，这些文本可以使用各种输入源，如数值数据、语料库或分类法[25]。然而，生成较长的文本仍然存在困难，因为它们需要更多的词汇，并且可能存在更多的语法或语义缺陷。因此，自动产生假新闻是可行的，但所得到的文本可能存在构造不良的句子，从而引起怀疑。声音转换是一种用于改变人声的技术。在一项调查中[28]，作者列举了三种应用类型：声音转换、声音修改和声音变形。声音转换涉及将源说话者的声音转换为模仿目标说话者的声音。声音修改和声音变形则专注于改变一个人或02 我们还可以引用法国讽刺新闻网站Le Garofi，其名称是对主流杂志LeFigaro的双关。前者的图形身份似乎受到后者的强烈启发。0更多的源发言人，而不指定任何目标。语音转换存在伪造音频演讲的风险，但是有几种技术可以检测到这种欺诈[2,24]。视频也可以伪造。例如，在[29]中，作者展示了从音频和视频镜头中学习唇同步的能力[3]。Face2Face[30]是另一种技术，可以将演员的面部表情实时转换到视频中存在的面部[4]。最近，我们还目睹了深度伪造的出现[6]，它使用深度学习技术在视频中交换面孔，并在色情场景中引起了浓厚的兴趣。这些技术可以打开伪造演讲、名人的贬低视频甚至是历史镜头的改变的大门。02.3社交网络中的信息传播0了解信息在社交网络中的传播方式可以揭示虚假信息的传播方式。信息传播分析关注三个主要目标：信息传播建模、热门话题检测和有影响力用户的识别。在所介绍的模型中，我们关注[20]，该模型通过内部和外部影响的视角研究了Twitter上的信息传播。特别是，该研究旨在确定包含URL的推文是否是由网络传播还是外部因素导致的。在一个月的Twitter数据中，只有71%的URL提及是由内部暴露（例如，评论、引用或转发推文）导致的，29%是由外部暴露（例如，在Twitter上分享外部链接）驱动的。其次，对Twitter上的信息传播进行的分析显示，一些话题，尤其是政治话题，更容易受到外部影响。第三，信息传播通常遵循以下步骤：（1）网络接触到外部信息并在节点共享此信息时被外部感染；（2）通过共享此外部信息，外部感染引起内部暴露的爆发；（3）内部暴露可能导致节点传播信息，从而导致内部感染；（4）在初始感染爆发后，外部和内部暴露继续为传染提供营养。根据这个模型，我们可以更好地理解热门话题的出现方式以及有影响力的用户如何达到大规模的受众。在虚假信息的情况下，恶意软件代理可以用于通过转发虚假信息或参与讨论来产生初始的暴露爆发[5]。然而，这些行动仍然取决于虚假信息由人类生成的事实。在接下来的章节中，我们首先描述了创建社交机器人的当前限制。然后，我们研究了社交机器人生成和传播可信虚假信息的后果。0并非如此自主的社交机器人0社交机器人是与人类共存于社交媒体生态系统中的软件代理。它们可以通过社交媒体功能与其他用户进行互动；例如，它们可以发布推文、发送电子邮件或0请参阅[29]制作的此视频剪辑：https://youtu.be/9Yq67CjDqvw?t=5m41s。请参阅[30]制作的此视频剪辑：https://youtu.be/ohmajJTcpNk。经过数据清理后，在Twitter上传播了18186个不同的URL。0Track: Re-Coding Black Mirror WWW 2018, 2018年4月23日至27日，法国里昂15590使用即时通讯应用程序进行自然语言对话。通过这些功能，社交机器人（或人类用户）可以传播虚假信息。然而，社交机器人只能做其社交媒体平台和人类创建者允许它做的事情。例如，Twitter社交机器人可以像其他任何人类用户一样（重新）转发或发送直接消息。相反，Facebook社交机器人可以根据其创建者的选择，阻止使用即时消息或群组帖子进行互动。我们已经看到社交机器人可以传播虚假信息，但它们仍然依赖人类来制造有意义的假新闻。在完全自主之前，社交机器人需要克服三个障碍。第一个问题涉及为当前或新的社交媒体平台自动创建社交机器人。第二个问题与自动适应以符合社交媒体平台的变化有关。第三个问题涉及社交机器人无法检测和理解对其目标有用的内容。我们认为，一旦解决了这些问题，社交机器人将产生更大的影响。我们将这样的社交机器人称为智能社交机器人。目前，存在政治和技术障碍来阻止它们的出现。个人账户是人类用户的唯一财产。自动化创建个人账户很难。通常需要人类用户与基于Web的界面进行交互，并确认确实是人类。为了执行此规则，社交媒体实施了CAPTCHA和/或电子邮件和短信验证，这使得创建账户的过程更加复杂。社交机器人可以通过模拟程序化地使用Web浏览器来创建和使用个人账户。然而，这是一个耗时且容易出错的过程，仍然需要由人类实施。社交媒体平台偶尔会提供社交机器人账户，以便社交机器人以受控的方式与用户进行交互。这些账户以不同的名称出现，例如：应用程序、商业页面、机器人等。无论如何，创建这些账户也需要通过类似于前面提到的验证测试。此外，始终需要有一个人类负责社交机器人账户。社交媒体平台或政府对社交机器人的影响施加了政治和法律障碍，以限制其影响范围。例如，特定社交媒体平台的服务条款可能禁止社交机器人账户与个人账户进行互动。这在Facebook上是真实的，因为它不允许社交机器人与人类用户发起对话。另一个例子是2016年的机器人法案，该法案禁止使用软件代理购买音乐会或体育赛事的在线门票。这些政治和法律障碍影响了技术障碍的重要方面。这些政治和法律障碍的执行的第一个结果是社交机器人拥有一种独特类型的账户。第二个结果与社交机器人如何使用社交媒体平台有关。使用社交媒体功能需要理解社交媒体API的语义。例如，考虑开发一个用于使用Gmail阅读电子邮件的社交机器人。工程师将需要创建一个Gmail账户，注册为开发者以获取API密钥，并实现一个协调以下操作的社交机器人0参见，例如，https://developers.facebook.com。7参见Facebook服务条款：https://www.facebook.com/terms.php。 8BOTS法案：https://www.congress.gov/bill/114th-congress/senate-bill/3183 9 https://developers.google.com/gmail/api/0操作：获取新邮件列表，提取它们的标识符，通过标识符逐个获取每封邮件，提取和处理其内容，并将每封处理过的邮件标记为“已读”。对于工程师来说，这可能是一个微不足道的任务，但自动化这些步骤的开发可能很困难。这些技术障碍之所以仍然存在有两个原因。首先，人类开发人员是指定如何使用社交媒体API的人。其次，社交机器人尚不能完全理解这些API的语义。因此，人类仍然负责创建社交机器人并定义它们的行为。但在一个完全语义化的网络世界中，我们认为智能社交机器人可以出现，自我发展，并适应其社交媒体平台的变化。在下一节中，我们试图描绘这个世界，并描述这样的智能社交机器人如何在关键政治事件中大规模传播错误信息。04一个可能的政治推翻？0在本节中，我们提出以下假设情景：智能社交机器人大规模传播虚假信息以破坏现有政府并最终推翻它。我们将背景设定在机器能够浏览完全语义化的网络的时代。我们逐步描述了这个情景可能如何展开。这个描述也得到了信息扩散理论和技术进步的支持。第一步涉及智能社交机器人扫描和搜索关于当前政治气候的网络信息。同时，社交机器人还可以学习使用第2.2节中描述的技术创建虚假信息并在网络上发布。这一步的关键目标是选择将用于传播假新闻的内容。在这种情况下，实施意见挖掘或情感分析算法将使社交机器人能够识别和分享支持其主张的信息片段。第二步是社交机器人在社交媒体上传播虚假信息。其目标是通过传播假新闻在社交媒体平台上创建初始的内部曝光。在图1中，我们根据第2.3节中提出的模型展示了虚假信息在Twitter上的扩散动态[20]。选择Twitter作为示例，但只要社交机器人能够在其平台上宣传虚假信息，事件的发展可能发生在其他社交媒体上。在[5]中，我们看到Twitter机器人在2016年美国总统选举期间占活跃用户的14%，同时生成了大约五分之一的所有推文。考虑到社交机器人在这个事件中的影响，这些数字已经不可忽视。增加这两个数字中的任何一个都可能给初始的内部曝光带来推动力，但不是没有副作用。一方面，增加恶意社交机器人的数量可能导致社交机器人相互感染。另一方面，可疑的高发布频率可能暴露作者不是人类的事实。第三步的目标是尽可能感染更多的人类用户，即让他们分享或评论由智能和恶意社交机器人创建的虚假信息。这一步对应于[20]中提到的内部影响。请注意，在这里，使用自然语言处理技术是必要的0Track: 重新编码黑镜WWW 2018年4月23日至27日，法国里昂b1 u1 u2 u3 u4 u5  exposure u6 b1 u1 u2 u3 u4 u5 b2 u6 b1 u1 u2 u3 u4 u5 b2 u6 b1 u1 u2 u3 u4 u5 b2 u6 Track: Re-Coding Black Mirror WWW 2018, April 23-27, 2018, Lyon, France15600网络0假新闻01）外部02）外部感染0导致内部0暴露03）内部暴露0导致内部0感染04）外部和内部暴露继续滋养0传染0：社交机器人0：人类用户：假新闻0Twitter0Twitter  Twitter0Twitter0图1：基于[20]中描述的信息扩散动态，Twitter社交机器人生成、获取和传播欺骗性信息的假设情景。0可以利用与人类用户互动的方式，试图更深入地传播欺骗的种子。例如，社交机器人可以实施意见挖掘和情感分析技术[23]，以找到与散布的欺骗性信息一致的观点的用户。此外，社交机器人可以通过社交网络API评估每个受感染人类用户的受众规模。这应该使得社交机器人能够有针对性地瞄准有影响力的人类用户。在初始爆发之后，这三个步骤可以重复多次，但影响越来越小。如果欺骗性信息传达仇恨言论等，最终，一个精确时机的打击可能会产生毁灭性的后果。在社会似乎越来越分裂的时期，尽管处于超级连接状态，当民族主义经历复苏时，本节描述的情景看起来相当可怕。05 讨论和结论0前一节描述的情景并非完全假设。如今，我们越来越多地看到社交机器人干预政治或社会辩论的报道[1,11]。随着语义Web或自然语言处理的突破，这种情况可能会变得更糟。在一个所有计算设备都能够相互通信的社会中，智能社交机器人和假新闻的泛滥可能以我们无法预料的方式影响世界。存在着检测社交机器人的方法，或者至少可以区分它们和人类的方法。在[9]中，这些方法分为基于（1）社交网络信息，（2）众包信息和（3）行为信息的技术。技术0基于社交网络信息，依赖于社区检测算法，假设社交机器人在社区内的相互连接比人类更密集。这些技术被证明效果不佳，因为这个假设没有很好地基础。众包社交机器人的检测可能既耗时又昂贵，更不用说缺乏自动化。基于行为信息的技术试图应用监督学习算法来区分人类和社交机器人。当在Twitter数据集上执行这些算法时，这些算法显示社交机器人具有最近的账户，倾向于发推文较少且转推较多，或者只是有较长的用户名。这些技术的最后一组也存在一个缺陷，即社交机器人可以演变成采用人类行为。除了检测社交机器人外，事实核查是评估主张的真实性和正确性的关键技术。毕竟，假新闻可以由人类和社交机器人制造和传播。鉴于社交媒体中信息扩散的规模，手动事实核查是一项繁琐的任务。自动化工具的需求是迫切的。ClaimBuster[15]是一个旨在实现这一目标的事实核查系统。ClaimBuster包括五个元素：（1）一个主张监视器，从网站、社交媒体和广播媒体收集数据；（2）一个主张发现器，在数据集中识别值得核查的事实句子；（3）一个主张匹配器，在其他事实核查网站（如Politifact）上找到相似主张的事实核查；（4）一个主张检查器，从网络上收集支持或否定的证据；（5）一个事实核查报告员，收集之前提到的所有信息并向用户显示。尽管显示出有希望的结果，但ClaimBuster的设计仍有改进的空间。的确，Hassan等人注意到人工核查员或主张发现器提出的评估存在一些差异。减少这些差异意味着在识别值得核查的事实句子时会减少错误。总之，我们坚持强调规划社交媒体的恶意使用和意外后果的重要性。在[12]中，作者坚持要求所有利益相关者共同思考如何防止这种滥用，并将“（一个代理的最终行为的）无知，无论是故意的还是无意的，本身就是一种伦理上的失误，这种失误是[所有利益相关者]共同分享的”。0参考文献0[1] David Alandete和Daniel Verdú. 2018.俄罗斯干预：俄罗斯网络如何助长意大利的极右翼 | In English | EL PAÍS.https://elpais.com/elpais/2018/03/01/inenglish/1519922107_909331.html?id_externo_ rsoc=FB_CC. (2018). (于2018年3月2日访问). [2] Federico Alegre, AsmaaAmehraye和Nicholas Evans. 2013. 保护自动说话人验证免受语音转换的欺骗对策. InAcoustics, Speech and Signal Processing, 2013 IEEE International Conf. on. IEEE,3068–3072. [3] Hunt Allcott和Matthew Gentzkow. 2017.社交媒体和2016年选举中的假新闻. Journal of Economic Perspectives (2017). [4]Laignee Barron. 2018. 美国士兵通过绘制他们的锻炼路线意外泄露敏感位置. Time.http://time.com/5122495/strava-heatmap-military-bases/. (2018).(于2018年1月31日访问). [5] Alessandro Bessi和Emilio Ferrara. 2016.社交机器人扭曲了2016年美国总统选举的在线讨论. (2016). [6] Samantha Cole. 2017.AI辅助的假色情已经出现，我们都完蛋了- Motherboard.https://motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn.(2017). (于2018年2月9日访问). [7] Deni Elliott和Charles Culver. 1992.定义和分析新闻欺骗. Journal of Mass Media Ethics 7, 2 (1992), 69–84.15610[8] Nicole B Ellison, Charles Steinfield和Cliff Lampe. 2007.Facebook朋友的好处：社会资本和大学生使用在线社交网络网站. Journal ofComputer-Mediated Communication 12, 4 (2007), 1143–1168. [9] EmilioFerrara等人. 2016. 社交机器人的崛起. Commun. ACM 59, 7 (2016), 96–104. [10]Jeffrey Gottfried和Elisa Shearer. 2016. 社交媒体平台上的新闻使用2016. Pew ResearchCenter. [11] Erin Griffith. 2018. 帕克兰枪击案后，亲枪俄罗斯机器人在Twitter上泛滥 |WIRED.https://www.wired.com/story/pro-gun-russian-bots-flood-twitter-after-parkland-shooting/. (2018). (于2018年3月2日访问). [12] Frances S. Grodzinsky, Keith W.Miller和Marty J. Wolf. 2008. 设计人工智能代理的伦理问题. Ethics and InformationTechnology 10, 2 (2008), 115–121. https://doi.org/10.1007/s10676-008-9163-9 [13]Adrien Guille, Hakim Hacid, Cecile Favre和Djamel A Zighed. 2013.在在线社交网络中的信息传播：一项调查. ACM Sigmod Record 42, 2 (2013), 17–28.[14] Brittany Hanna, Kerk F Kee和Brett W Robertson. 2017.社交媒体在工作中的积极影响：同事之间的工作满意度，工作呼唤和Facebook使用. InSHS Web of Conf., Vol. 33. EDP Sciences. [15] Naeemul Hassan等人. 2017.迈向自动化事实核查：通过ClaimBuster检测值得核查的事实性主张. In Proceedings ofthe 23rd ACM SIGKDD International Conference on Knowledge Discovery and DataMining. ACM, 1803–1812. [16] Helena Horton. 2015.微软在24小时内删除了“少女”AI，因为它成为了一个崇拜希特勒的性机器人. TheTelegraph.https://www.telegraph.co.uk/technology/2016/03/24/microsofts-teen-girl-ai-turns-into-a-hitler-loving-sex-robot-wit/. (2015). 访问日期：2018年1月31日. [17] Ipsos.2016. Ipsos/BuzzFeed民意调查-假新闻.https://www.ipsos.com/en-us/news-polls/ipsosbuzzfeed-poll-fake-news. (2016).(于2018年2月6日访问). [18] Andreas M Kaplan和Michael Haenlein. 2010.世界的用户，团结起来！社交媒体的挑战和机遇. Business horizons 53, 1 (2010),059–68. [19] Adam Kucharski. 2016. 后真相：假新闻的流行病学研究. Nature 540, 7634(2016), 525. [20] Seth A Myers, Chenguang Zhu和Jure Leskovec. 2012.信息传播和网络中的外部影响. In Proceedings of the 18th ACM SIGKDD internationalconf. on Knowledge discovery and data mining. ACM, 33–41. [21] GwennO’Keeffe等人. 2011. 社交媒体对儿童，青少年和家庭的影响. Pediatrics 127, 4 (2011),800–804. [22] Leysia Palen和Amanda L Hughes. 2018. 灾难传播中的社交媒体. InHandbook of Disaster Research. Springer, 497–518. [23] Bo Pang, Lillian Lee等人.2008. 意见挖掘和情感分析. Foundations and Trends® in Information Retrieval 2, 1–2(2008), 1–135. [24] Patrick Perrot, Guido Aversano和Gérard Chollet. 2007.声音伪装和自动检测：回顾与展望. In Progress in nonlinear speech processing.Springer, 101–117. [25] Ehud Reiter和Robert Dale. 2000. 构建自然语言生成系统.Cambridge university press. [26] Victoria L Rubin, Yimin Chen和Niall J Conroy. 2015.新闻的欺骗检测：三种类型的伪造. Proceedings of the Association for InformationScience and Technology 52, 1 (2015), 1–4. [27] Chengcheng Shao等人. 2017.社交机器人传播假新闻. arXiv preprint arXiv:1707.07592 (2017). [28] Yannis Stylianou.2009. 声音转换：一项调查. In Acoustics, Speech and Signal Processing, 2009. ICASSP2009. IEEE International Conf. on. IEEE, 3585–3588. [29] Supasorn Suwajanakorn,Steven M Seitz和Ira Kemelmacher-Shlizerman. 2017. 合成奥巴马：从音频学习唇同步.ACM Transactions on Graphics 36, 4 (2017), 95. [30] Justus Thies等人. 2016.Face2face：实时捕捉和重现RGB视频中的面部. In Computer Vision and PatternRecognition, 2016 IEEE Conf. on. IEEE, 2387–2395. [31] Anna Vannucci, Kaitlin M.Flannery和Christine McCauley Ohannessian. 2017. 新兴成年人的社交媒体使用和焦虑.Journal of Affective Disorders 207 (2017), 163–166.0跟踪：重新编码黑镜WWW 2018年4月23日至27日，法国里昂