黑镜中的用户画像：便利性和伦理问题

15770黑镜中用户画像的便利性和伦理问题0哈希瓦德汉∙J∙潘迪特（Harshvardhan J.Pandit）ADAPT中心，都柏林三一学院，爱尔兰，harshvardhan.pandit@adaptcentre.ie0戴夫∙刘易斯（DaveLewis）ADAPT中心，都柏林三一学院，爱尔兰，dave.lewis@adaptcentre.ie0ACM参考格式：Harshvardhan J. Pandit和DaveLewis。2018年。黑镜中用户画像的便利性和伦理问题。在WWW '18Companion：2018年网络会议伴侣，2018年4月23日至27日，法国里昂。ACM，美国纽约，7页。https://doi.org/10.1145/3184558.319161401引言0个性化服务是当今应用和服务的口头禅。在追求更好的功能和更准确的结果时，技术滥用可能带来的伦理或道德问题往往被视为合法，但不一定符合社会或个人的道德和伦理立场，这些立场随时间而变化。法律本身在跟上这些变化方面进展缓慢，其中一个例子是旨在强制个人数据使用作为明确同意交易的《通用数据保护条例》（GDPR）[2]。这样的法律往往受到严格框架的约束，并需要法院的决定来解决模糊之处，并为其应用提供明确的指导。这些法律的讨论、制定和应用之间的长时间间隔为组织以有争议的方式使用资源提供了一定的回旋余地，如果不是完全不可接受的，就是完全不可接受的。用户画像是更具争议性的技术之一，它已成为有关个人数据和隐私的讨论的焦点。它的应用为用户提供了更大程度的个性化和便利。同时，任何滥用，无论是有意还是无意，都会导致社会辩论对技术本身的两极化。在这种情况下，很难在两方之间建立叙述的平衡。随着我们向着使用人工智能和机器学习的转变，对个人可行数据的依赖也将增加。与伦理和技术的可接受使用相关的问题将对其创建和使用变得越来越关键。因此，不难设想在遥远的未来将伦理政策作为法律要求和必要性的论点。小说，特别是像乔治∙奥威尔的《1984》和查理∙布鲁克的电视剧《黑镜》这样的小说，由于它们被认为与今天的世界相似，被视为讨论的焦点，这些小说被视为将世界带入一个不受欢迎的未来。在这种情况下，责任往往被归咎于所应用的技术，这一点被不断强调0本文发表在Creative Commons Attribution 4.0 International（CC BY4.0）许可下。作者保留在个人和公司网站上传播作品的权利，并附上适当的归属。WWW'18 Companion，2018年4月23日至27日，法国里昂© 2018IW3C2（国际万维网会议委员会），根据Creative Commons CC BY 4.0许可发布。ACMISBN 978-1-4503-5640-4/18/04。https://doi.org/10.1145/3184558.31916140各种关于《黑镜》剧集的讨论和看法不断强调这种技术进步还远未到来，因此有足够的时间进行干预以防止它们的发生。正如我们在本文中所讨论的，事实是我们已经处于这样一个阶段，这些技术已经存在，尽管形式相对粗糙，而且正是这些技术的应用引发了关注。我们特别以《Nosedive》（黑镜S03E01）为例，使用当前技术来展示用户画像。我们讨论的重点是展示这些技术如何通过网络这一媒介的结合和部署而变得容易，这已经成为全球大多数人的基本需求。解决这种技术所提出的冲突的一个方法是进行反思性研究和创新，其中技术的创建和应用要求在其发展过程中进行伦理讨论。目前，我们缺乏必要的媒介和框架来提供一种可持续的替代方案，以取代不鼓励所需讨论的现有商业实践。正在进行的努力旨在改变这种情况的现状，就像所有好事一样，需要在各个领域推动和传播。我们提出了一种名为“伦理画布”的方法，它基于“商业画布”[3]，以讨论与前述《黑镜》剧集相关的伦理问题。本文的其余部分结构如下-第2节描述了商业组织和政府机构在全球范围内实施的用户画像的当前状态。第3节描述了如何使用这些信息来制定类似于《Nosedive》的评级系统。第4节讨论了评级系统对用户的影响以及实践负责任创新的必要性。第5节介绍了伦理画布方法和工具，并提供了一个用例。第6节总结了本文，并呼吁进行协作讨论，以采用负责任的创新实践。02真实世界用户画像0网络是一种重要的交流和信息传播媒介。它已经渗透到社会结构中，以至于人们经常认为它只是无止境和无所不知的。采用这种媒介进行交流已经成为一种社会要求，这种行为在年轻人中越来越普遍。访问网络或互联网的方式是使用浏览器或其某种变体，它形成了本地服务与互联网之间的互连。使用的设备各不相同，从极其个人化的智能手机到可能在大量人之间共享的社区计算机。这些区别以前对用户跟踪构成挑战，但现在被认为是一个机会，原因是像超级cookie和浏览器指纹识别这样的技术[1]。这些跟踪器将信息输入信息孤岛，每个个人资料都经过处理，生成反映某种行动可能性的指标。谷歌和Facebook等组织建立了这样的个人资料[6]，以确定广告产生最大预期效果的可能性-即购买产品的可能性。目前的近似值将信息使用情况定为广告针对用户（而不是反过来），但这并不排除使用此信息来识别有关用户的某些固有个人特征的可能性。这方面最常见的例子是在针对选举人群的定向选举活动中使用社交信息，其中个人信息用于识别和影响选举人群。在其最简单的形式中，此信息可用于“评级”用户对某次选举或政党的支持程度。即使将此信息提供给第三方也可能引起关注，并导致严重的利益冲突。用户画像在金融领域中非常突出和广泛，它在法律的祝福下猖獗。银行、保险提供商和信用评级提供商等金融机构收集大量个人信息，以对用户进行画像，并生成代表个人货币状况的某种金融指标。这些信息的收集、使用和共享对个人来说是透明的。即使有新的法律正在制定和执行，信用行业也没有停止的计划。这种信息的收集、使用和共享之所以可能，是因为网络的渗透性为服务在全球范围内运作提供了一个强大的框架。每个信息持有者都有持有其数据并仅在获得重大利益（如货币化）时共享的利益。随着这些数据的可用性变得普遍或易于收集，将来商业实体很可能会采取相同的做法。建立用户画像完全取决于个人信息的数量和分类。目前，无论是商业组织还是政府组织，都依赖于自己收集和处理数据。已经出现了提供信息分析服务的服务提供商。然而，这种方法仍然缺乏统一的机制0跟踪：Re-Coding Black Mirror WWW 2018，2018年4月23日至27日，法国里昂and browser fingerprinting [1]. These trackers feed informationinto information silos, where each profile is processed to generatesome form of likely metric reflecting the probability of an action.Organisations such as Google and Facebook build up such pro-files [6] to identify the probability of an ad having the maximumintended effect - that of buying the product. Current approxima-tions put the information usage at ads being targeted towards users(and not the other way around), but this does not deviate from thepossibility of using this information to identify certain inherentlypersonal characteristics about the user. The most popular exampleof this is the use of social information in targeted electoral cam-paigns where personal information is used to identify and influenceelectoral demographics. In its simplest form, this information canbe used to ‘rate’ a user to how pro- or against they are for a certainelection or party. Even the availability of this information to thirdparties could be a cause of concern and result in severe conflicts ofinterest 1.User profiling is prominent and widespread in financial sectors,where it runs rampant with legal blessing 2. Financial institutionssuch as banks, insurance providers, and credit rating providerscollect a large trough of personal information to profile users andgenerate some financial metric represents the individual’s monetarystatus. How this information is collected, or used, or shared istransparent to the individuals. Even with new laws being createdand enforced, the credit industry shows no plans of stopping.The collection, usage, and sharing of such information is in-herently possible because of the permeability of the web, whichprovides a robust framework for services to operate at a globallevel. Each information holder has vested interests to hold on totheir data and share it only for significant gains such as monetising.As the availability of this data becomes common or easy to collect,the organisations monetising this resource must evolve to generatenew types of data which are not readily accessible. One example isthe aforementioned likelihood of targeting electoral support suchas in the case of Facebook ads.With the growth in the availability of information on the webvia channels such as social media and user tracking, it becomespossible for multiple organisations to have collected the same typesof data. In such cases, the defensive strategy of holding on to datawould no longer apply. Instead, additional value would be pursuedby combining data across information silos to create a more com-prehensive user profile. Governmental agencies associated withinformation collection and defence are already implementing suchstrategies to combine their data troughs across different agenciesinto one location. In the future, commercial entities are likely to dothe same.Building up a user profile is entirely dependant on the amountand categorisation of personal information available for profiling.Currently, each organisation, whether commercial or governmental,depend on collecting the data and processing it themselves. Serviceproviders have sprung up to provide information analysis as ser-vices 3. However, such approaches still lack a uniform mechanism157801《卫报》关于Facebook个人资料被定向政治广告的文章http://reut.rs/2G2Zb2W2大规模在线广告拍卖中使用的一个著名例子是美国专利US7552081B23分析服务提供商Palantir被指控存在种族偏见-《纽约时报》（2016年9月26日）http://nyti.ms/2EiGSX90通过将所有可用信息合并到一个身份下，生成提取个体更丰富指标的模型。信息持有者不愿意共享或合作创建这样一个机制，这对用户来说是有利的，因为它阻止了不同信息图的合并。然而，随着政府强制实施的识别符号（如印度政府的Aadhar）[7]，不仅可以在个体使用的任何服务中识别个体，还可以通过生物特征证明其身份。随着各个领域积极推动将Aadhar与其相关联，信息可靠地在组织之间进行链接只是时间问题。在这种情况下，分析和指标提供很可能成为专门的服务提供商。03实施《Nosedive》评级0在《黑镜》的《Nosedive》一集中，每个人都有一个众所周知的评级5。用户可以互相评级，这会改变评级。关键问题（在该集中没有回答）是谁维护这个评级-是政府的任务，还是商业提供者的任务。我们可以从政府安全机构使用此类评级的情况中找到线索，例如在机场，乘飞机需要至少4.2的评级。这意味着评级要么由政府直接或外包维护，要么由某个组织（很可能是商业组织）维护，政府用于限制机场飞行。在这两种情况下，用户的评级可以被视为个人信息，然而它被视为公开信息。用户对该信息的使用或访问没有权利或控制，这使得与边境安全使用社交媒体进行比较成为不可避免的。图1显示了用户画像工作流程的概述。实际上，这样一个评级系统很不可能完全由用户监管，而是由某个组织在政府监督下维护[中国评级系统]。所需的信息将通过从现有方收集数据来访问，而不是从头开始设置信息系统。这可以导致各种组织（包括政府和商业组织）之间的合作，以创建一个对个体进行评级或打分的系统。建立身份的复杂任务可以通过诸如Aadhar之类的身份验证方案来克服，该方案通过指纹提供了一个用于验证个体身份的基于Web的API，或者可以用于检索个体身份。随着面部和虹膜扫描等技术的出现[6]，可以添加这些技术来进一步扩展数据库及其身份验证机制。这样的系统自然会包含法律条款，以禁止其用于商业目的。然而，正如反复证明的那样，组织总能找到漏洞或规避法律的方法。在这种情况下，组织可以使用身份验证机制来识别个体，然后将身份与其数据库中的虚拟身份进行匹配，并声称符合法律，因为它可以使用虚拟身份提供其服务和用户画像。04《纽约时报》就Aadhar问题发表了一篇全面的文章（2018年1月21日）http://nyti.ms/2BnYceH5评级从0到5，5表示更好或更高。6智能手机已经配备了面部识别、虹膜扫描和指纹检测等生物识别认证方法。0Track: Re-Coding Black Mirror WWW 2018, April 23-27, 2018, Lyon, France15790图1：《Nosedive》中用户画像的概述0假设有一个名为F-social的虚构组织，为用户提供一些服务（免费或付费），并成功积累了大量的个人信息，他们“承诺”不与第三方共享。然而，他们的法律文件却说用户提供的信息可以由F-social任意使用，这意味着他们可以随意使用这些信息。虽然这在GDPR下可能是不可接受的，但大多数用户可能对法律影响一无所知，并且即使所有用途都在条款和条件中明确说明，他们仍然会继续使用该服务。根据GDPR，在获得用户同意时需要提及预期的处理活动，这意味着如果F-social找到某种方式来掩盖法律术语背后的活动，用户将接受这些条款。尚不清楚法律将如何实施，因为它将于2018年5月25日生效。图2概述了本节中描述的情景。F-social使用其收集到的所有信息为个体提供反映个体符合某种配置或模式的可能性的度量或评分。除所请求的度量外，没有泄露或共享个人信息，这些度量由F-social生成，因此不被视为个人信息。[脚注：要试图确定这个度量确实是个人信息，需要进行一场耗时且庞大的法庭案件，而且诉讼可能会被拖延数年。此外，法院只会对某个地区做出决定，这意味着某些地区可能允许F-social继续运营。]一个餐厅将其顾客的面部照片发送给F-social，以获得他们的购买力和挥霍倾向的度量。他们可以通过门口的一个看似无害的告示来做到这一点，告示上写着“进入该场所即表示您同意被识别”。F-social识别0通过将其数据库中的用户的独特面部特征与个体相关联，F-social可以识别个体。如果该个体不在F-social上，它可以从其朋友上传的照片中识别面部指纹。如果没有任何信息，F-social会返回“无匹配”结果，餐厅会将其解释为模棱两可和可疑。为了计算个体的购买力和挥霍概率，F-social查看其信息图。它考虑过去在其网站上发布的购买记录，或通过与银行和保险机构进行金融数据交易获得的记录。它检查所订购的菜品种类，无论这些菜品是昂贵还是便宜。这为它提供了个体购买能力和历史的估计。然后，F-social查看用户的个人信息，以查看是否在某个特定时间范围内有任何特殊场合。这可能是生日、纪念日、晋升，或者如果他们是学术界的人士，可能是论文被接受。F-social还试图判断他们离月薪还有多远。它的假设是当个体有特殊场合或有暂时多余的钱时，他们会挥霍。基于这种复杂而复杂的计算，F-social发送个体购买力和挥霍能力的度量。个人信息并没有直接在F-social和餐厅之间传输，然而，人们可以从本质上看到以这种方式交换信息违反了某种伦理构建。问题在于，被调查的个体既没有意识到也无法控制这种信息交换。此外，存储和访问的信息完全与外部世界隔离。如果某些第三方在没有合法途径的情况下获得了这些信息，个体根本不可能知道这一点。政府监管和个人信息访问也带来了另一个困境。这与《Nosedive》中使用用户评级来阻止角色乘飞机的方式并没有太大区别，因为她被认为评级“低”，即被认为不安全或无法通过充分审查而获准乘飞机。基于某种度量标准限制访问或歧视的二手效应导致了遵守接受行为的压力。如果顾客知道在F-social上发布内容会增加他们进入餐厅的机会，很有可能大多数人都会尝试发布内容。F-social还可以通过控制其网站上的内容显示方式来影响这种行为。如果关于餐厅的帖子开始在动态中出现得更多，它会在心理上产生一种希望通过自己去餐厅加入这个群体的欲望。通过在动态中展示那些具有更大度量的人发布的帖子，可以创造一种人为的希望来增加自己的度量。这在《Nosedive》中得到了充分体现，角色试图参加婚礼以增加自己的评级。在这种情况下，参与评级过程的各方控制着用户的叙述，而用户则被误导以为自己有控制权。从法律上讲，F-social和其关联方可能不违反数据保护法律，因为这些法律并不足以对抗这种行为，或者通过以不完全揭示其伦理影响的方式获得用户的同意。在这种情况下，用户唯一的选择是请愿改变法律（例如通过选举代表）或离开该服务。因此，这种现状使用户处于不利地位。0Track: Re-Coding Black Mirror WWW 2018，2018年4月23日至27日，法国里昂15800图2：F-Social：利用Web提供用户评级服务04 负责任创新0万维网，通常称为Web或互联网，为全球范围内的大规模信息共享提供了基础，是许多商业实体的基础，这些实体依赖于它进行业务。Web的基础是协议或标准，用作一种相互理解的互操作性形式，用于交换信息。这可以通过网站或抽象接口（也称为API）来完成，这些接口可以让人们以更丰富的语义方式与数据进行交互。虽然技术的进步越来越依赖于Web的这种连接性质，但我们看到有些情况下，Web的基础被用来以各种方式破坏隐私考虑。其中一种方法是通过服务提供商控制和修改连接中的数据包，允许注入广告并有选择地限制流量。虽然这种做法可能会产生法律后果，但它们确实引发了有关隐私的警示。对互联网数据包的控制有效地允许在Web数据包本身中插入识别跟踪器，这可能允许任何网站或服务识别用户（在某种抽象级别上），从而进一步推进在前一节中概述的非显式信息在用户个人资料中的使用。虽然这些活动可以通过法律和公众压力来阻止，但这两者都可能非常困难或耗时。与此同时，这不能用作建立对Web的控制或禁止或限制其使用的手段。一个实际可行的解决方案是提高普通用户的意识水平，以更好地准备他们在交出同意或同意使用服务时所做的选择。条款和条件是法律规定的一种方法，但由于文本的密度，它们已被证明根本无效。GDPR要求通过让用户了解其数据的所有使用方式来获得明确的同意。这种方法无疑是进步的，但它不会阻止用户个人资料的分析07 也称为互联网服务提供商或ISP0在整个网络上，试图将与用户个人资料相关的所有活动都以负面的方式描绘，将会限制技术进步。因此，我们必须努力寻找一个折中的方法，使进步与解决社会对此类技术的实际问题并行进行。在这方面，负责任创新领域可以作为一种良好的实践方法，与诸如安全网站和隐私政策等现有方法一起使用。负责任创新的基础是在科学和技术不仅在技术上，而且在社会和政治上构成的理解上建立责任的概念[5]。在商业利益方面，隐私和伦理的考虑已经开始形成，但仍处于初级阶段，没有有效的方法可以与业务实践相结合。目前的常态似乎是在广泛使用技术之后考虑其实际影响，在大多数情况下，只有当其他人基于他们所认为的风险提出异议时才会考虑。在解决使用技术的不确定性以及其快速变化和扩散方面也存在挑战。与其寻求在处理网络和组织上的隐私和伦理方式方面进行范式转变，我们更关注技术人员在这些主题上缺乏讨论的核心问题，即没有一种能够轻松融入工作方法论的伦理实践方法。另一个挑战是对讨论伦理的感知上的权威要求，这不仅是不正确的，而且还阻碍了在网络等公共空间中对这些主题的讨论。虽然隐私政策旨在解决与隐私相关的问题，但在伦理方面没有类似的工具或实践，这仍然是一种只在闭门或不公开的讨论中出现的主题。解决这个问题的一种方法是更好地使用户能够承担理解技术及其对隐私和伦理的影响的责任。虽然让所有用户进行一对一或社区讨论可能不切实际，但向用户提供有关技术伦理的讨论是完全切实可行的。这将使用户能够提出诸如“我提供了什么，我得到了什么回报？”等问题，更重要的是，“风险是什么？是否值得？”这些问题本质上是个人问题，其答案因人而异。这类似于旨在描述与隐私相关的考虑的隐私政策，但由于缺乏适当的结构和方法论，这些政策在深度和指导方面都缺乏必要的内容。05 伦理画布0我们开发了伦理画布作为一种新颖的方法，通过鼓励关于研究和创新中实践伦理的讨论来解决这些挑战。我们评估了现有的负责任创新方法[4]，这些方法侧重于业务设计，而不是创新过程中涉及的技术。为了将伦理讨论整合到现有的讨论方法中，我们使用了商业模式画布（BMC）[3]，它允许协作讨论业务和0Track: Re-Coding Black Mirror WWW 2018，2018年4月23日至27日，法国里昂15810鼓励对业务如何创造、交付和捕获价值的共同理解。伦理画布有助于结构化讨论技术对利益相关方的影响以及其伦理考虑的潜力。目前版本为1.9的伦理画布随着时间的推移不断发展，以更好地捕捉和反映讨论内容。它由九个主题块（见图3）组成，这些块分为四个完成阶段。第一阶段（块1、2）需要根据考虑的技术确定涉及的利益相关方。然后使用这些利益相关方来确定第二阶段（块3-6）中已确定的利益相关方的潜在伦理影响以及第三阶段（块7、8）中非利益相关方特定的伦理影响。第四阶段（块9）包括围绕前几个阶段中确定的伦理影响进行的讨论。伦理画布可以打印出来，也可以作为一个无需账户即可使用和下载的网络应用程序。通过账户，可以使用协同编辑、评论、标记和持久性等特性。该应用程序的源代码托管在线上，根据CC-by-SA3.0许可证可供使用。我们正在开发画布的下一个版本，并打算利用网络技术提供一个围绕伦理讨论的一体化体验。我们欢迎有关此事的想法、建议和合作。我们以Nosedive为例，并使用伦理画布讨论其伦理含义。本例中使用的画布可在线上获取，并根据CC-by-SA4.0许可证提供。第一阶段涉及识别受F-social及其提供度量或评级服务影响的个人类型或类别。除了F-social的用户之外，还包括使用该服务获取评级的组织的任何用户（或受影响的个人）。在假设的情景中，这将包括餐厅的顾客。这还包括出现在图片中或在帖子中提到的任何不在F-social上的个人。将此扩展到F-social使用的所有信息源，如果它使用任何个人数据集，例如来自信用公司的数据集，则该数据集中的任何个人也应包含在此阶段中。对于受影响的群体，这些将是不愿被跟踪的人，例如希望有“安全”场所进行会议的记者。这还包括权力人士，例如政治家或官僚，其中关于可能无意间出现在餐厅的人的信息可能导致滥用。任何可能无意间被激进地进行个人资料分析的少数群体也面临风险。在第二阶段，我们通过讨论技术的潜在伦理影响来探讨这些利益相关方可能受到的影响。在行为方面，用户可能会更有动力发布对其评级产生积极影响的内容，并避免发布对其评级产生负面影响的内容。如果这些信息有助于他们从使用评级来审核客户的服务中获得货币或其他形式的利益，他们也更有可能提供信息。这种行为可能会鼓励接受侵犯隐私，因为从法律上讲，用户愿意提供信息以供F-social的预期使用。在关系方面，如果评级考虑到社交圈子，那么用户更有可能希望其社交圈子由对其有积极影响的人组成0对其评级产生影响。这在《Nosedive》中也有所体现，人们试图对那些比自己评级高的人更友好，以期提高自己的评级，而相反，那些评级高的人对待那些评级低的人则带有蔑视。这将导致个人和地方的普遍认知发生变化，这种认知基于其所服务或反映的评级和指标。例如，只为评级较高的人提供服务的地方被视为“独特”，而那些愿意接受评级较低的人的地方可能被视为“不高档”。在一定程度上，这种现象在今天关于货币消费能力方面是可观察的。这导致了每个群体对另一个群体的自然怨恨，这可能会被社会的边缘分子利用以谋取自己的利益。处于权力地位的一层人可能会利用这个机会为自己谋利，例如在组织和员工之间，访问评级可能被视为“合同内”，从而不可避免地将信息用于影响薪资和晋升等事项。由于这种影响非常微妙，无法防范，但可以通过开放的方法和普遍意识来减轻。我们在第3阶段考虑了这些潜在影响，从F-social提供的服务的影响开始。由于指标或评级被视为重要因素，其算法可能会被操纵。当这些信息暴露给公众时，可能会引发巨大的反弹和负面影响。即使这些信息可能部分属实或完全虚假，这种影响仍可能发生。此外，由于此类服务的主要媒介是网络，任何影响通信安全和完整性的问题也会影响服务本身。因此，中间人攻击和分布式拒绝服务攻击等攻击向量将导致服务无法使用，这可能会导致用户被拒绝服务。根据地区和具体情况，此攻击可以用于出于政治目的拒绝特定区域的访问。可以使用诸如广告拦截器和ISP注入（ISP注入或修改数据包的做法）等方法来破坏服务的功能，这可能会对用户产生意想不到的后果。服务的某些客户可能会尝试将服务用于在法律、商业、伦理或道德观点上可能不可接受的目的。在这种情况下，F-social有可能有兴趣审查其客户和对服务的访问，这可能会进一步复杂化后果，因为他们实际上会拒绝基于某种议程的信息和业务。根据地区和政治立场的不同，政府或地方实体可能希望自动访问数据，这可能会引发多个问题。例如，在更民主开放的地区，可能会有潜在的反弹或政治制衡，这可能会减轻问题或使用立法来拒绝或根据公众意见授予访问权限。在政府更加孤立且实行专制统治的情况下，它不太可能在立场上让步，并可能威胁完全禁止该服务，除非接受设定的条件。0赛道：重新编码黑镜WWW 2018年4月23日至27日，法国里昂15820图3：伦理画布显示了9个块，分为4个阶段，以鼓励对与研究创新相关的伦理问题进行结构化讨论。0基于对涉及的利益相关者、服务的运作方式以及其对行为、关系和服务本身的潜在影响的理解，我们试图通过第4阶段来减轻这些影响。由于F-social的主要关注点在于使用数据计算指标或评级，要求其停止提供服务几乎是不可能的，因为这将构成要求其停止一种合法可接受的做法。相反，用户或组织可以要求F-social在使用个人数据方面更加开放，并考虑其使用的伦理方面。可以要求公开评估用于计算评级的算法，以确保不存在偏见并且其做法合法。这可以通过多个层面来实现，从F-social指定的内部委员会到政府调查。这将为数据的使用提供真实性和监督，并防止有关服务的虚假信息传播。在完全阻止此类个人数据使用方面，最好的方法是通过更好、更简单的理解相关问题的传播，以期提高人们对其的认识0公众对这种做法发出强烈抗议，并让立法者参与起草更好的法律以保护其用户的关切。然而，这种方法存在其弱点，即受政治权力可能不合作的地区的限制。因此，F-social可能会在一个政府的支持下获得赞助，而在另一个政府的完全禁止下。网络媒介可以广泛用于分享与该服务及其伦理关切相关的信息，类似于关注隐私的现有组织。06 结论0用户可能无法完全控制其数据的使用或收集。尽管进步的法律，特别是GDPR，对使用个人数据规定了几个限制和义务，但最终控制权在于数据主体或用户。尽管同意是强制性的事情，但正确提供同意的责任要求用户首先理解技术的所有影响，这是一项困难的任务。相反，这种责任可以由所有涉及方共同承担，包括0赛道：重新编码黑镜WWW 2018年4月23日至27日，法国里昂15830整个社区。通过本文，我们试图讨论用户画像的影响以及如何将其作为网络服务提供。我们以《黑镜》中的《Nosedive》一集为例，考虑了这种服务的伦理影响，并开发了一个使用现有技术模拟该剧集的假设情景。为了通过一种方法论来结构化讨论，我们使用了我们的工具——伦理画布，以了解涉及的利益相关者、服务对利益相关者行为和关系的影响，以及服务可能被用于意想不到的目的。我们通过几个行动点总结了对缓解围绕用户画像的伦理问题的讨论。通过本文，我们希望提出这样一个论点，即技术本身不应成为判断与隐私、伦理和道德相关问题的依据。相反，我们需要一个涉及设计和提供这种技术的人们的开放讨论，以在技术影响公众之前识别此类问题。这种务实的讨论将导致更好的行为准则，这些准则可能不会立即纳入立法，但可能有助于塑造不久的将来可接受的实践。实现这一目标的一种方式是通过制定伦理政策或采取开放的方式来实践面向负责任创新的伦理。伦理画布就是这样一种鼓励以适应现有业务实践的方式进行讨论的方法和工具。我们设想这样的工具将帮助负责任创新的从业者向其预期用户传达他们的良好意图，例如通过发布其服务的伦理画布。0致谢0本文得到数字内容技术ADAPT中心的支持，该中心由爱尔兰科学基金会研究中心计划（Grant13/RC/2106）资助，并在欧洲区域发展基金的共同资助下进行。作者感谢Wessel Reijers和其他参与伦理画布方法开发的研究人员。0参考文献0[1] K. Boda, Á. M. Földes, G. G. Gulyás和S.Imre.通过跨浏览器指纹识别在Web上跟踪用户.在Nordic Conference on Secure ITSystems，页31-46，Springer，2011年。[2]欧洲议会和理事会2016年4月27日关于个人数据处理和自由流动的保护的条例（EU）2016/679，废除95/46/EC指令（通用数据保护条例）。欧洲联盟官方期刊，L119:1-88，2016年5月。[3] A. Osterwalder和Y.Pigneur.商业模式创新：愿景、游戏改变者和挑战者的手册. JohnWiley＆Sons，2010年。[4] T. J. Pinch和W. E.Bijker.事实和工件的社会建构：或者科学社会学和技术社会学如何互相受益.科学研究社会学，14（3）：399-441，1984年。[5] J. Stilgoe，R. Owen和P.Macnaghten.发展负责任创新的框架.研究政策，42（9）：1568-1580，2013年。[6] K.Sugiyama，K. Hatano和M.Yoshikawa.基于用户配置文件的自适应Web搜索，无需用户任何努力.在第13届国际万维网会议论文集，页675-684，ACM，2004年。[7] F. J. Zareen和S.Jabin.生物特征签名验证近期趋势的比较研究.在ContemporaryComputing（IC3），2013年第六届国际会议上，页354-358，IEEE，2013年。0跟踪：Re-Coding Black Mirror WWW 2018，2018年4月23日至27日，法国里昂