数字自我的复活

15350数字僵尸 - 我们数字自我的复活0Tabea Tietz FIZ卡尔斯鲁厄 -利比茨信息基础设施研究所卡尔斯鲁厄理工学院tabea.tietz@fiz-karlsruhe.de0Francesca Pichierri FIZ卡尔斯鲁厄 -利比茨信息基础设施研究所francesca.pichierri@fiz-karlsruhe.de0Maria Koutraki FIZ卡尔斯鲁厄 -利比茨信息基础设施研究所卡尔斯鲁厄理工学院0Dara Hallinan FIZ卡尔斯鲁厄 -利比茨信息基础设施研究所dara.hallinan@fiz-karlsruhe.de0Franziska Boehm FIZ卡尔斯鲁厄 -利比茨信息基础设施研究所franziska.boehm@fiz-karlsruhe.de0Harald Sack FIZ卡尔斯鲁厄 -利比茨信息基础设施研究所卡尔斯鲁厄理工学院harald.sack@fiz-karlsruhe.de0摘要0当我们死后，我们的社交媒体资料会发生什么？作为Netflix系列《黑镜》的一部分，《Be Right Back》一集0提供了一个可能的情景。创建了一个数字化身与亲近亲人进行交流，该数字化身从已故用户过去的社交媒体活动中学习。尽管用户将其社交媒体内容委托给一家或多家公司，即使在他们去世后，询问公司真正会如何处理已故用户的数据：将其出售以操纵用户或创建广告，也许是合理的。在本文中，我们解决了所有者权益、伦理和透明度以及死后用户数据的问题。0CCS概念0• 安全和隐私 → 安全和隐私的社会方面；• 信息系统 →万维网；文档主题模型；信息提取；情感分析；• 以人为本的计算 →社交媒体；• 社会和专业主题 → 道德准则；知识产权；0关键词0社交媒体；人工智能；隐私；黑镜；法律；伦理；透明度0ACM参考格式：Tabea Tietz，Francesca Pichierri，Maria Koutraki，DaraHallinan，Franziska Boehm和Harald Sack。2018年。数字僵尸 -我们数字自我的复活。在WWW '18Companion：2018年网络会议Companion，2018年4月23日至27日，法国里昂，Pinelopi Troullinou，Mathieu d'Aquin和IlariaTiddi（编辑）。ACM，纽约，美国，5页。https://doi.org/10.1145/3184558.319160601《Be RightBack》：第2季第1集维基百科概述https://en.wikipedia.org/wiki/Be_Right_Back0本文根据知识共享署名4.0国际许可证（CC BY4.0）发布。作者保留在其个人和公司网站上传播作品的权利，并附上适当的归属。WWW'18 Companion，2018年4月23日至27日，法国里昂，© 2018IW3C2（国际万维网会议委员会），根据知识共享CC BY 4.0许可证发布。ACM ISBN978-1-4503-5640-4/18/04。https://doi.org/10.1145/3184558.319160601 引言0社交媒体无处不在，它在我们的日常生活的方方面面都产生影响，下一个故事、视频、图片或推文只需轻点一下即可。我们发布我们吃什么、我们如何锻炼、我们听什么音乐、我们支持哪位政治家以及我们追求哪种职业。在16至64岁之间的数字用户中，约有98%是社交媒体用户，平均每个用户在各种社交平台上都有八个账号[1]。然而，最近经常提出的问题是：当我死后，我的数据会发生什么？谁能够访问、分享和更改我的数据？我的数据将如何在未来得到保护，谁将拥有这些数据？当然，已故用户的社交媒体资料可以被简单地冻结或删除-这是Facebook目前正在处理的方式[2]。但是，让我们朝一个不同的方向思考，想象一下所有生成的原创内容所带来的可能性。如果我的亲近亲人能够查看和分享我们共享的（在线）回忆，或者与我以前的社交媒体内容为基础创建的数字化身进行互动，这是不难想象的。可以想象，这些“如果”可能是用户在失去亲人后应对悲伤和空虚的一种方式。考虑到过去十年Web技术的快速发展，不难想象提供这些功能的服务将很快可用。其中一种方法是由Eternime提供的，它“永久保存您最重要的想法、故事和回忆”[3]。您可以创建一个数字化身，亲近亲人可以在死后与其进行互动。虽然Eternime利用用户创建的内容并将其播放给亲近亲人，但我们试图进一步将这个想法发展到与已故用户实际互动的程度。在本文中，我们密切关注Netflix系列《黑镜》中的《Be RightBack》一集中提出的情景。该剧集涉及悲伤、记忆、数据和伦理等问题。在剧中，主人公和积极使用社交媒体的用户Ash突然去世。他的女友Martha开始使用一项服务，允许亲人与已故的亲人保持联系。通过学习Ash过去的社交媒体帖子，该服务能够生成冒充他的新内容。02 Facebook报告已故用户的概述：https://www.facebook.com/help/408583372511972/ 3 http://eterni.me/0Track: Track: Re-Coding Black Mirror WWW 2018, April 23-27, 2018, Lyon, France15360虽然所描述的《黑镜》剧集提供了一个（除了其伦理问题之外）关于该场景的工作技术示例，但也可以想象，被委托管理已故者数据的公司可能会将其用于商业用途或影响生者的观点。本文将提供一个描述可能使用死后社交媒体个人资料的场景，并基于上述《黑镜》剧集进行构建。与该场景相关的伦理和法律考虑将被提出。将展示，除了简单地开发更强大和智能的（Web）技术之外，关于新技术的对与错仍然存在许多未解答的问题，例如人工智能（AI）的发展。在这方面，我们提出需要使个人数据的新技术使用更加透明，并进一步讨论技术如何在检测到这些已故数字个人资料的意外使用时发挥作用。02 SCENARIO0Laura是一个活跃的社交媒体用户，她在多个平台上都有账号，并且每天都在使用。她得知有一家公司可以在她死后帮助她利用她创建的所有内容，通过数字化头像与她的亲人进行交流。Laura喜欢这个想法，她的朋友和家人将能够像她还在的时候一样“保持联系”，于是她在社交平台的安全和隐私设置中勾选了一个选项，同意在她死后由第三方公司分析她的个人资料内容。该公司利用人工智能（AI）提供一项服务，从Laura的原始内容中学习并创建一个数字化头像。这个头像很聪明，能够通过聊天机器人与亲人和朋友进行互动，分享思想和感受，就像她从未离开过一样。它分享过去的回忆和冒险，并根据Laura的原始发布内容，通过AI生成全新的内容，紧密跟随她的脚步。然而，在Laura同意所有这些功能的同时，该公司也假设有权力操纵和使用Laura的个人资料以达到自己的目的。例如，该公司开始：0（1）利用Laura的个人资料和个人数据来操纵头像Laura与她的家人之间的对话，利用悲伤和悲痛作为自己经济利益的筹码（例如，推动人们更频繁地使用该服务，创造一种阻碍人们继续前进的上瘾现象）。（2）传播Laura从未同意的特定信息（例如关于政治话题的信息）。（3）分享不应该被分享的私人信息（例如聊天记录）。（4）公开分享Laura的数据。（5）将Laura的个人资料出售给广告公司，以根据她和她朋友的个人资料创建广告。（6）将Laura的数据用于分析和营销目的。0虽然这些进一步使用的案例仅仅是例子，但还有许多其他情况需要考虑。现在可以提出的一般问题是：如何在Laura去世后保护她的数据？Laura如何确信她委托给的公司会按照她的意愿处理她的个人资料？0在她死后，利用她的个人资料不会利用她无法对其头像新创建的内容做出反应的简单事实吗？下面的第3节试图讨论处理已故用户内容的法律和伦理考虑。03 ETHICAL AND LEGAL PERSPECTIVES0伦理考虑。由于Laura同意分析她的个人资料以创建她死后的数字化版本，因此该公司实际上能够管理Laura的个人资料，潜在地与生者（例如Laura的亲属和朋友）产生互动并影响他们的情绪。同时，它也成为Laura记忆的管理者和制造者。从个体层面上考虑，考虑到已故者的情感内涵，这确实是一种权力。从社会层面上考虑，考虑到与死亡和已故者相关的意义（例如与概念相关的终结性），该公司行使着改变一个对人类社会至关重要的构造的能力。因此，一些有趣的伦理问题自然而然地出现。例如：0•是否有任何伦理模板可以推导出对已故数字化个人资料提供指导？•与使用已故数字化个人资料相关的是否有明确的错误？0法律考虑。通常情况下，人们可能会寻求法律提供一个框架，或者至少提供一般规则，来界定任何特定情境下合法行为的界限。然而，在这种情况下，人们可能期望规范这个问题的法律领域似乎并不相关。一个典型的例子是数据保护法。表面上看，这个领域非常相关——毕竟，它是旨在保护个人数据处理权益的法律领域。然而，欧盟的数据保护法在适用范围上往往不包括已故人士。因此，整个法律领域无法适用于已故数字化个人资料。新的《通用数据保护条例》（GDPR）在第27条中明确规定，不适用于已故人士的个人数据，遵循《95/46/EC指令》的路径（参见[5, 8,9]）。与许多技术现象一样，也许这些问题根本不需要冷冰冰的立法者之笔来解决。这引发了一些法律问题。例如：0•同意可以达到多远？同意可以“永远”给予吗？•在与已故数字化个人资料相关的情况下，可能会承认哪些合法权益——已故人士的人格权利，亲属的记忆权利？•是否已经有适用的法律领域，如果有，它们概述了哪些原则——财产法？•鉴于这种情境的新颖性，是否需要任何形式的监管，如果需要，会有什么样的原则有益？0上述伦理和法律考虑显示了公司使用已故数字化个人资料所面临的巨大不确定性。然而，公司获得的明显新权力、涉及到的活人情感以及死亡概念对社会结构的核心性意味着可以毫不费力地提出某些断言：1）这是一个引起极大公众关注的问题；2）存在巨大的个人和社会危害潜在性。在此背景下0Track: Track: Re-Coding Black Mirror WWW 2018, April 23-27, 2018, Lyon, FranceTrack: Track: Re-Coding Black Mirror WWW 2018, April 23-27, 2018, Lyon, France15370虽然在使用已故数字化个人资料方面声明具体的规范立场可能为时尚早，但考虑到这些立场可能如何得出的方法（无论是个体还是社会层面）是不为时过早的。在这方面，第一步可能是考虑如何尽可能地使这种现象透明化。例如，通过设计一种方式，使那些与这些个人资料互动的人能够知道它们与已故者有关。04 WEB TECHNOLOGIES AND DATA MISUSE0尽管《黑镜》中描述的情节展示了未来的前景，但创建一个数字化的化身并从学习到的原始内容自动生成新内容所需的技术已经存在。机器学习技术使得文本预测成为可能，甚至可以（半自动地）从《哈利∙波特4》这样的书籍中完全生成新的章节。自然语言生成（或文本生成）是自然语言处理中的一个任务，它可以自动生成自然语言文本。关于这些主题的研究工作有很多，其中一些是[14,18]。因此，在这项工作中，假设控制用户个人资料的公司能够自动生成新的内容以发布在个人资料中。然而，本节的目标不是分析《黑镜》情节如何实现，而是如何解决数据滥用的问题。在所提出的情景中，从法律和伦理的角度来看，数据“滥用”无法明确定义（正如前一章所讨论的）。在技术层面上，很难明确界定有用的功能何时结束，数据利用何时开始。还可以进一步询问谁来决定违反原始发布者数据的行为，因为发布者本人无法对其化身未来生成的聊天和帖子采取行动。解决这个问题的一种方法可能是将原始帖子与新的AI生成内容进行比较。可以问：机器人是否以与原始发布者相同的方式发布？在情感层面上是否有变化？在发布的频率、结构或内容上是否有变化？当然，这里也无法明确划定一个清晰的界限。然而，回答这些问题可能提供一些指标，有助于增加新内容的透明度，以保护原始发布者的权益。接下来，将讨论一些当前可能有助于发现在所描述的情境中数据滥用迹象的技术和研究成果。0主题检测。在社交媒体个人资料中检测滥用的一种技术是主题检测或主题建模，正如第2节中所描述的情景。主题模型是一种用于发现文本中出现的主题的统计模型。最著名的主题建模算法之一是潜在狄利克雷分配（LDA）[2]。LDA的工作原理如下：它将一系列文档表示为主题的混合和文档中的一个词归属于一个主题。已经有许多关于社交媒体中主题建模（检测）的研究作品[10,21,23]，其中关注Twitter的研究在[11]中进行了调查。04 Botnik项目提供了一种半自动的文本预测方法，供普通用户使用 http://botnik.org/ 5https://twitter.com/0这里的直觉是，在死者死前，首先对她自己提供的内容应用主题检测，可以提取出她感兴趣的主题。例如，如果她过去有几篇类似于“我希望你们今天都享受阳光！”或者“最后一部《星球大战》电影是我最喜欢的。”的帖子，因此可以检测出她主要是在发布有关天气和电影的内容。之后，当公司管理该个人资料时，可以再次应用主题检测。在这种情况下，如果新检测到的主题与之前的主题完全不同，例如有很多关于政治的帖子，那可能是滥用的一个线索。0情感/情绪检测。情感和情绪在人际交流中起着关键作用，因此情感和情绪检测在AI技术的发展中起着重要作用[4]6。在当前的研究中，情感检测和情绪分析的应用领域非常广泛，包括市场分析（例如产品评论）或心理学（例如自杀预防），预测政治事件（例如选举）等等。特别是社交媒体平台Twitter以其大约3亿用户和每天约5亿条推文的数量，被证明是情感检测和情绪分析的丰富来源。Giahanou和Crestani[6]讨论了一些当前的情感分析和情绪检测方法，包括机器学习技术、基于词典的方法、混合方法和基于图的技术。这个不断发展的研究领域，特别是将Twitter等微博平台纳入其中的努力，也可能有助于检测数字化身的滥用。通过情感和情绪的分析，可以系统地调查数字化身是否突然开始大量使用讽刺（例如[7,13,17]），对政治事件（例如恐怖袭击）的反应与原始发布者不同的情绪（例如[3]），或者数字化身突然发布仇恨言论（例如[19]）或突然对某些名人或产品表现出不同的情绪（例如[16]）。当比较原始帖子和数字化身的帖子，并且在特定主题上发生突然的情绪变化时，这可能是一个指示AI被编程来操纵与之互动的人们，传递广告，或者形成原始发布者不会同意的政治观点的指标。0内容消费者的互动分析。除了分析数字化身本身的帖子和聊天的变化之外，还可以从内容消费者的角度进行分析。可以分析那些有权访问数字化身的人对帖子的反应如何[22]。这些消费者是否经常分享或“转推”内容？他们是否喜欢生成的内容，还是最终忽略它？当然，可以争论说，朋友和熟人对生活内容的反应可能与他们对数字化身生成内容的反应相当不同。然而，这仍然可能是数字化身与人们互动的程度的指标。0在计算机科学中，情感和情绪这两个术语经常可以互换使用。然而，根据Munezero等人的说法，情感被称为“大脑、自主神经和行为变化的短暂事件”，而情绪是在较长时间内形成的情感倾向[15]。这两个概念在分析社交媒体资料时起着重要作用，可以应用于文本内容以及多媒体分析。15380例如，频繁分享和点赞产品或政治信息可能是用户操纵的指标，而举报或甚至屏蔽数字化身的内容可能是不适当或有争议内容的指标。通过人们对帖子和聊天的反应，可以进行情感分析。这可能包括对使用的Facebook反应表情符号[20]的分析，或对Twitter上的转发进行深入分析[12]。显然，提供的示例只是部分涵盖了使社交媒体发布行为变得透明的可能性。例如，语言文本分析领域提供了广泛的工具集，具有多种方法来研究文本的语法和形态特征。进一步的分析还可以围绕发布频率或使用的媒体格式（视频、照片、文本）进行。然而，已经证明可以监控数字化身与生活世界的互动，并提供至少对其发布行为的变化的透明度，以增加社交媒体用户的保护。05 讨论与结论0本文介绍了关于已故用户社交媒体资料使用的未来场景，该场景是根据Netflix的《黑镜》剧集“Be RightBack”而设想的。该场景描述了创建了用户原始帖子的数字化化身，该化身被编程以生成新的帖子和聊天内容。与此相关，我们对其中的伦理和法律问题进行了一些考虑。表面上看，该场景似乎确实描绘了一个黑暗的情节。然而，当我们更加仔细地思考其中涉及的法律和伦理问题时，不确定性开始出现。我们是否知道公司对已故数字化资料的使用会是负面的？当我们开始思考这个场景所引发的伦理问题时，我们立即面临着这种情况的新颖性以及它带来的困难，这使得我们很难确定任何具体的伦理框架 -具有其自身的规范确定性。通常情况下，我们可能会寻求法律提供 -至少是程序上的 -确定性。然而，在这里我们遇到了同样的缺乏清晰度。人们可能认为最相关的法律领域 - 例如数据保护 -似乎不适用。尽管目前缺乏伦理和法律指导，但我们并不没有前进的方式。人们有可能与已故亲属互动的想法可能会产生重大影响。它有可能引发相当大的情感反应，甚至对相关个人造成伤害。它似乎很有可能引起一些与死者有关的道德立场明确的群体的明确反应 -例如宗教团体。当面对一种在道德和法律上存在不确定性的现象时，我们该怎么办？然而，这种现象似乎可能产生强烈的影响并且可能存在问题？答案是尽可能地使其透明化。建立机制，允许在个人和社会层面上收集经验数据，以便能够做出更明确的道德 - 甚至可能是法律-判断。在这里，技术似乎可以发挥重要作用。当前的技术使得对社交媒体帖子的更改变得透明。这些更改可能发生在情感层面上，涉及使用的主题或与关注者、朋友和亲属的互动。虽然这些技术不能完全覆盖社交媒体发布行为的所有可能性，但可以部分实现透明化。例如，语言文本分析领域提供了广泛的工具集，具有多种方法来研究文本的语法和形态特征。进一步的分析还可以围绕发布频率或使用的媒体格式（视频、照片、文本）进行。然而，已经证明可以监控数字化身与生活世界的互动，并提供至少对其发布行为的变化的透明度，以增加社交媒体用户的保护。0明确指出用户数据被滥用时，它们有助于找到指标以便放入上下文中。这个场景本身引发了关于技术如何迫使我们对我们所生活的物质世界提出问题的有趣问题。从本质上讲，这种技术允许对死者进行一种重新活化。这引发了关于最终死亡到底有多终结，以及数字化个体是否能够真正接近真实事物的基本问题。反过来，这个场景迫使我们重新考虑我们目前对生者和死者所应用的道德和法律的社会叠加。这种方便而明确的区分已经被证明是多么困难的情况下，我们发现自己无法再清晰地区分。它引发了一些问题，比如已故人士是否可以拥有诸如隐私权之类的权利，以及如何有效地在法律上保护这些权利，考虑到他们已经不在那里保护自己。更抽象地说，在研讨会的框架下研究这个场景引发了一个问题，即在考虑如何处理技术问题时，使用“黑镜”场景作为模板是否有意义。识别“黑镜”场景设定了一个基调，从一开始就将某些技术描绘为坏的。自然而然的反应是考虑预防的手段。然而，技术的现实很少是简单明了的，很少有可能将其放入一个明确标记为“坏，不要打开”的盒子中。例如，在我们的案例中，也许使用已故数字化个人资料实际上可以在处理悲伤和失去方面提供很大的帮助？反过来，也许这样的场景本身是必要的？通过消极事件，通常是直观的消极事件，社会良知被唤醒，社会辩论和决策机制被触发。通过预防这些事件，可能会为更加隐蔽的伤害铺平道路。谁能说这些伤害不会更加严重呢？0参考文献0[1] 2017年。GlobalWebIndex关于社交媒体最新趋势的旗舰报告。(2017)。[2] David M.Blei, Andrew Y. Ng, Michael I. Jordan和John Lafferty. 2003.潜在狄利克雷分配。机器学习研究杂志3 (2003), 2003. [3] Pete Burnap, Matthew LWilliams, Luke Sloan, Omer Rana, William Housley, Adam Edwards, Vincent Knight,Rob Procter和Alex Voss. 2014.推特上的恐怖主义：对伍尔维奇恐怖袭击的社交媒体反应建模。社交网络分析与挖掘4, 1(2014), 206. [4] Erik Cambria. 2016. 情感计算和情感分析。IEEE智能系统31, 2 (2016),102–107. [5] Lilian Edwards和Edina Harbina. 2013.保护死者在数字世界中的隐私权：重新考虑死者的隐私权益。Cardozo艺术与娱乐法杂志32(2013), 83. [6] Anastasia Giahanou和Fabio Crestani. 2016.喜欢还是不喜欢：推特情感分析方法调查。ACM计算机调查49 (2016), 28:1–28:41. [7]Roberto González-Ibánez, Smaranda Muresan和Nina Wacholder. 2011.在推特上识别讽刺：更详细的观察。在第49届计算语言学协会年会论文集中。计算语言学协会, 581–586. [8] Edina Harbinja. 2013.欧盟数据保护制度是否保护死者的隐私权以及可能的替代方案。SCRIPTed10 (2013), 19.[9] Edina Harbinja. 2017.死后隐私2.0：理论、法律和技术。国际法律、计算机与技术评论31, 1 (2017), 26–42. [10]Liangjie Hong和Brian D. Davison. 2010.推特话题建模的实证研究。在第3届社交网络挖掘和分析研讨会上的论文集中，SNAKDD2009. 80–88. https://doi.org/10.1145/1964858.1964870 [11] Rania Ibrahim, AhmedElbagoury, Mohamed S Kamel和Fakhri Karray. 2017.从推特流中检测话题的工具和方法：调查。知识与信息系统(2017), 1–29.0Track: Track: 重新编码黑镜WWW 2018年4月23日至27日，法国里昂15390[12] Intzar Ali Lashari和Uffe Kock Wiil. 2016.通过测量Twitter上转发的情感来监测公众舆论. 在第3届欧洲社交媒体研究会议上. 153. [13]Diana Maynard和Mark A Greenwood. 2014.谁关心讽刺性推文？研究讽刺对情感分析的影响. 在Lrec中. 4238–4243. [14] KathleenMcKeown. 1992. 文本生成. 剑桥大学出版社. [15] Myriam D Munezero，Calkin SueroMontero，Erkki Sutinen和John Pajunen. 2014.它们是否不同？文本中的情感、感觉、情绪、情绪和意见检测.《IEEE情感计算杂志》5卷，2期（2014年），101–111. [16] Preslav Nakov，AlanRitter，Sara Rosenthal，Fabrizio Sebastiani和Veselin Stoyanov. 2016.SemEval-2016任务4：Twitter情感分析.在第10届语义评估国际研讨会（SemEval-2016）上. 1–18. [17] AshwinRajadesingan，Reza Zafarani和Huan Liu. 2015.Twitter上的讽刺检测：一种行为建模方法. 在第8届ACM国际网络搜索和数据挖掘会议上.ACM，97–106. [18] Ehud Reiter和Robert Dale. 2000. 自然语言生成系统的构建.剑桥大学出版社.0[19] Anna Schmidt和Michael Wiegand. 2017.使用自然语言处理进行仇恨言论检测的调查.在第5届国际社交媒体自然语言处理研讨会上的论文集中. 1–10. [20] SarahTurnbull和Simon Jenkins. 2016. 为评估社交媒体活动而好的消息：Facebook反应.《直接、数据和数字营销实践》杂志，17卷，3期（2016年），156–158. [21] YuWang，Eugene Agichtein和Michele Benzi. 2012.TM-LDA：社交媒体中潜在主题转换的高效在线建模. 在第18届ACMSIGKDD国际知识发现与数据挖掘会议（KDD '12）上. 123–131.https://doi.org/10.1145/2339530.2339552 [22] Velissarios Zamparas，AndreasKanavos和Christos Makris. 2015. 用于测量Twitter用户影响力的实时分析.在2015年IEEE第27届国际人工智能工具会议上. IEEE，591–597. [23] Wayne XinZhao，Jing Jiang，Jianshu Weng，Jing He，Ee-Peng Lim，Hongfei Yan和XiaomingLi. 2011. 使用主题模型比较Twitter和传统媒体.在《信息检索进展-第33届欧洲信息检索研究会议，ECIR 2011》中. 338–349.https://doi.org/10.1007/978-3-642-20161-5_340Track: Track: 重新编码黑镜WWW 2018年4月23日至27日，法国里昂