15630情感计算的陷阱0自动视觉情感交流如何导致伤害，以及如何减轻此类风险？0减轻此类风险？0Martin Cooney，Sepideh Pashami，Anita Sant'Anna，Yuantao Fan，SławomirNowaczyk应用智能系统研究中心（CAISR），哈尔姆斯塔德大学，瑞典哈尔姆斯塔德martin.cooney@hh.se，sepideh.pashami@hh.se，anita.santanna@hh.se，yuantao.fan@hh.se，slawomir.nowaczyk@hh.se0摘要0如果人们可以通过某种可视化技术“看到”他人的隐藏情感，会发生什么？谎言会变得不常见，我们会更好地理解彼此吗？还是相反，这种被迫的诚实会使一个社会无法存在？科幻电视剧《黑镜》揭示了一些更黑暗的情节，在这些情节中，这种未来的技术通过模糊私人和非私人之间的界限，也可能催化痛苦。因此，本文首先关注识别情感可视化中可能导致心理或身体伤害、误传和剥夺权的一些潜在陷阱。然后，提出并讨论了一些对策，包括对可视化内容的一定程度的控制和提供适当丰富的情感信息，以促进情感可视化对人们幸福感的贡献。这里提出的场景不仅限于网络技术，因为人们通常主要在直接接触的情况下考虑情感识别。然而，随着界面的发展超越今天的键盘和显示器，也可以在远程获得更多的信息，例如，语音转文本软件可以演变为用说话者的情感状态注释任何口述的文本。0CCS概念0• 信息系统 → 情感分析；• 安全与隐私 →安全与隐私的人类和社会方面；• 以人为本的计算 →可视化系统和工具；0关键词0情感计算；情感可视化；黑镜；隐私；伦理；意图识别0ACM参考格式：Martin Cooney，Sepideh Pashami，AnitaSant'Anna，Yuantao Fan，SławomirNowaczyk。2018年。情感计算的陷阱：自动视觉情感交流如何导致伤害，以及如何减轻此类风险？在WWW '18 Companion：2018年Web会议中0本文发表在知识共享署名4.0国际（CC BY4.0）许可下。作者保留在个人和公司网站上传播作品的权利，并附上适当的归属。WWW'18 Companion，2018年4月23日至27日，法国里昂。© 2018IW3C2（国际万维网会议委员会），根据知识共享CC BY 4.0许可发布。ACM ISBN978-1-4503-5640-4/18/04。https://doi.org/10.1145/3184558.31916110Companion,2018年4月23日至27日，法国里昂。ACM，纽约，美国，4页。https://doi.org/10.1145/3184558.319161101 引言0情感计算、情感识别和情感分析的研究旨在通过使计算机和机器人能够更好地做出决策和服务，从而提高人们的幸福感，通过了解人们的情感[19]。情感可以通过各种信号（包括面部表情、手势和声音）使用可穿戴设备或远程传感器（例如，皮肤电反应、脑机接口和摄像头）[14, 20,22]进行识别，准确度各不相同。随着越来越多的这类传感器开始出现在我们的周围，识别情感的能力有可能成为一种全球性的技术，无论物理上的接近与否，都可以影响网络技术。识别结果不仅可以被计算机用于规划适当的行动，还可以为人类可视化。例如，在我们之前的工作中，我们探索了使用脑机接口和热像仪检测到的人的情感来绘画的机器人的使用，如图1所示。这样的系统有一天可能有助于帮助患有自闭症、抑郁症、创伤或情感认知障碍（难以识别自己的情感）的人们进行沟通和研究他们的情感。其他一些不需要机器人的例子，通过动作或彩色灯光在动态服装中展示情感[16,18]。在本文中，我们展望了一个未来，这些技术能够高精度地广泛应用，以便人们的情感通常可以被他人看到。我们注意到，人类通常擅长识别某些类型的情感，但这个过程肯定可以通过技术来促进，而隐藏的情感可能需要技术来揭示（事实上，人们可能经常对自己的情感并不完全了解，更不用说别人的情感了）。这种情感可视化在许多领域都可以带来许多好处，例如艺术表达；促进共情和情感共鸣；快速检测危险情况；揭示法官或陪审员中的潜在偏见，或者揭示关系中的虚假。然而，尽管有良好的意图，这些能力也带来了重大的危险，将一个人内心、真实和潜在脆弱的状态暴露给他人看。02 潜在的陷阱0在考虑情绪可视化的潜在危险时，我们想起了《黑镜》这部电视剧中的一些情节，该剧探讨了人性的弱点如何驱使未来技术的滥用[1]。特别是第4季的第2集和第3集，“Arkangel”和“Crocodile”，描绘了一些阴暗的场景，其中能够窥视他人内心的能力引发了麻烦。在《Arkangel》中，一位母亲为了保护女儿而秘密监控她的行动，并操纵她的感知和人际关系，导致女儿出现心理问题和暴力行为。在《Crocodile》中，揭示一个黑暗秘密的技术使一个人感到痛苦和恐惧，推动他们犯下一系列谋杀。以类似的方式，我们预见情绪可视化可能会表现出“enantiodromia”（系统倾向于朝着相反方向发展），试图帮助但实际上可能导致心理或身体伤害、沟通不畅或使计算机在人类身上获得优势；或者一组人对抗另一组人。0Track: Re-Coding Black Mirror WWW 2018, April 23-27, 2018, Lyon, France15640图1：情绪可视化示例：（a）机器人通过（b）颜色、线条和构图以及（c）面部表情、声音和手势表达愤怒。0对于情绪可视化的潜在危险，我们想起了《黑镜》这部电视剧中的一些情节，该剧探讨了人性的弱点如何驱使未来技术的滥用[1]。特别是第4季的第2集和第3集，“Arkangel”和“Crocodile”，描绘了一些阴暗的场景，其中能够窥视他人内心的能力引发了麻烦。在《Arkangel》中，一位母亲为了保护女儿而秘密监控她的行动，并操纵她的感知和人际关系，导致女儿出现心理问题和暴力行为。在《Crocodile》中，揭示一个黑暗秘密的技术使一个人感到痛苦和恐惧，推动他们犯下一系列谋杀。以类似的方式，我们预见情绪可视化可能会表现出“enantiodromia”（系统倾向于朝着相反方向发展），试图帮助但实际上可能导致心理或身体伤害、沟通不畅或使计算机在人类身上获得优势；或者一组人对抗另一组人。02.1 心理伤害0情绪可视化可能通过揭示人们不愿意透露的信息或导致社交技能、道德价值观和“生活的乐趣”减弱而对人们造成心理伤害。例如，让所有人都看到潜在的情感问题（例如痴呆症、抑郁症或强迫性障碍）可能对某些人来说是不可取的，因为会带来社会污名；我们想象有些人也可能试图控制自己的情绪，并担心某些隐藏的感觉可能会被表达出来。事实上，对情绪的显示控制通常是缺乏的；情绪可以通过面部微表情和肢体语言泄露，欺骗行为也可以被揭示出来，使这种隐藏变得非常困难[10]。0此外，如果人们认为没有必要说话或移动来传达情感，结果可能会削弱许多社交技能。使“善意的谎言”变得不可能似乎会剥夺一个人对同情的责任：例如，一个人可能会觉得“如果我表达情感状态引起冒犯，那是系统的错，而不是我的错”。同样，强迫诚实可能导致某些人的道德发展不足；接受较少诚实机会的人可能更难学会如何诚实。这与人性有关，因为消除挑战会使人类变得更弱。就像一个人被限制使用轮椅时腿部力量会下降一样，或者没有早期接触病毒和细菌的儿童可能成为免疫系统较弱的成年人一样，那些情感总是“一览无余”的人最终可能无法在没有“强制诚实”的支撑下做出道德正确的选择。消除不确定性也可能使生活更单调。例如，如果哈姆雷特的精神状态，佩特鲁奇奥和凯瑟琳娜之间的关系，以及罗密欧和朱丽叶之间的相互吸引对所有人来说都是完全清楚的，那么莎士比亚的戏剧可能会变得不那么有趣-在最后一种情况下，家庭可能会立即分开这对恋人；一个不那么令人兴奋的故事。02.2 身体伤害0情绪可视化也可能导致身体伤害。通过负面或积极情绪快速检测威胁和机会的能力可能会增加战斗和暴力事件的发生率，以及约会场景中的滥交行为，从而传播性疾病。例如，一个人可能会感到威胁，因为他们看到自己的伴侣和一个潜在的竞争对手对彼此产生高度积极的情绪，这可能导致愤怒和暴力[3,4]。一些个人和团体也可能试图控制他人的情绪。这可以在心理上进行，例如，雇主可能试图限制服务人员展示哪些情绪，但也可以在身体上进行，例如，恶霸可能从看到受害者的恐惧中获得快感。然而，在后一种情况下，我们注意到情绪可视化也可能产生积极或中性的效果。恶霸对他人的情绪状态的认知可能干扰了去人性化的尝试，增加了内疚感，并增加了受害者获得同情的可能性[12]。或者，可视化可能根本不会产生强烈的影响-如果“读取”情绪变得容易和普遍，它可能会导致麻木不仁（就像今天的人们习惯于在电视上看到灾难一样）[23]。02.3 误传0误解、看不见的偏见和伪造的风险也存在。例如，当前的情感可视化系统通常假设一个人一次只有一种情感，并不考虑人类情感的全部复杂性，比如情感通常是针对某个对象的，并且可以共存[13]；例如，一个人在听到亲人受伤时可能感到愤怒，但并不对那个家庭成员感到愤怒，并在听到他们安全时流泪欢笑。0主题：重新编码《黑镜》WWW 2018，2018年4月23日至27日，法国里昂15650情感信号也可能存在歧义；例如，微笑并不总是表示快乐，点头可以有很多含义[21]。基于这种歧义的误解可能导致争斗或不幸（例如，如果一个人在另一个人痛苦时似乎感到快乐）。另一个潜在问题是，与人类一样，识别算法也可能存在偏见，如果情感被用于某种评估（如在《黑镜》第一季第三集“Nosedive”中），可能会对某人的生活产生负面影响，并助长自我实现的预言[17]；作为后者的一个例子，一个人根据系统的预测预期一次互动会很尴尬，可能会与平时不同，这可能使其他人感到不安，导致尴尬，并使系统的估计似乎是正确的。情感识别也是一项极具挑战性的任务；错误可能会发生，输出的“客观性”绝不是保证。因此，如果一个人对别人的情感的推断与可视化的情感不符，可能会感到不和谐和不信任。最后，一个系统可能会被黑客攻击，使其看起来好像一个人真正感到不同的情感，这可能对政治家、律师或犯罪分子有利。02.4 剥夺个人权力0如果一些人难以隐藏思想和情感，机器人和计算机也可能在说服人们方面获得优势，可能还包括商业利益。如今，与计算机的互动很常见，例如社交媒体或在线购物；如果一些人转向机器人作为“安全”的伴侣，以避免与其他人分享私人情感[6,11]，这种趋势可能会进一步加剧。这样的系统可能会非常令人信服：没有情感的机器人不需要在选择词语时小心翼翼，因此呈现出一种充满信心、没有干扰的说服氛围[15]。此外，情感也可以用来欺骗人们以影响他们的决策[9]。例如，组织可以使用这样的系统来根据检测到潜在客户的情绪状态来调整呈现的价格，例如在线产品。与这种情景相关的一些潜在危险涉及社会、信任和平等。机器人可以利用情感欺骗人们喜欢它们以便说服，导致可能不真实的关系以及一个人与其他人的社交联系的潜在减少[24]。部分或完全虚假的信息（例如“假新闻”）可以在没有情感泄露秘密的恐惧下传播，破坏信任；此外，针对特定人群（如老年人）的骗局也可以检查受害者是否真正相信一个故事，并利用情感反馈更具说服力，可能导致更多的痛苦。而且，向不同的人呈现不同的价格可能是不公平的，促进不平等。03 避免陷阱的策略0为了最大限度地减少情感可视化技术被滥用的风险，我们提出系统可以加入一些功能，如图2所示：控制（关闭按钮、欺骗和隐身）和意图识别。对于前者的建议，核心概念是一个人的情绪只能在他们的同意下被可视化给可信任的人：可能，一个感觉可以0图2：避免陷阱的潜在策略：（a）情感可视化的“天真”模型。一个人感知，影响他们的情感，这些情感又被他们或其他人拥有的系统可视化，并影响其他人的情感。（b）控制可视化内容。个人的可视化系统可以完全关闭，不显示任何内容，设置为播放一系列虚假的情感（例如，对客户表现得开心），或者将识别输入过滤为仅显示某些情感。可以通过人为改变与情感相关的信号，如面部表情、声音和肢体语言，来阻止其他人的可视化系统。（c）传达丰富的信息。在可能产生误解的情况下，可以传达有关正在感受的情感以及与何种指代物相关的信息。0只有通过朋友之间情感的相互交流，才能将其可视化给愿意被可视化的人。在其他情况下，可以关闭个人的情感可视化，表达虚假的情感，或者不可视化某些情感。情感可以对其他人的系统隐藏；例如，通过遮盖面部表情，如可以欺骗物体检测算法的对抗性贴片[5]，或者通过使衣物自动移动以向手势注入噪声，使其情感意义不明确。因此，例如，一个患有抑郁症的人不会被迫向完全陌生的人暴露他们的状况，员工可以避免被持续监控并担心因为情感失误而失去工作，以及在低照明等具有挑战性条件下识别错误可能带来的不良后果可以得到缓解。当然，如何从技术角度确保这些能力是一个挑战：强制执行这些能力的法规可能会被颠覆。而且，存在这样一个风险，即这将演变成一个不断发展的“军备竞赛”，不断开发更好的欺骗系统，就像不断发展更好的识别算法一样。这0Track：重新编码黑镜WWW 2018年4月23日至27日，法国里昂15660图3：我们的机器人试图传达一些丰富的情感信息，包括愤怒（左侧的面孔），恐惧（右侧的面孔），悲伤（通过蓝色）和一般的负面价值观（通过一些下降的“情绪线”）。0可能会导致一个世界，其中最富有和最先进的技术只有那些能够隐藏自己真实情感的人才能够做到。另一种减少误解风险的方法可能涉及意图识别，即识别一个人表达情感的原因和目标。在之前的工作中，我们提出了一种基于词频-逆文档频率（TF-IDF）启发式的“单义性”度量方法，用于量化个体行为通常与潜在意图相关的程度；结合利用活动的时间结构、其他模态的共同信号和多个观察结果[7,8]。然而，这个主题仍然需要进行大量的研究，被描述为“几乎未被探索”[25]。图3展示了同时传达多种情感的尝试。指代物也可以以某种结构化的方式与情感一起显示；例如，在一个人哭泣快乐的眼泪的情况下，可以将喜悦的感觉（因为所爱的人是安全的）和由于某种避免的危险（例如火灾或车祸）而引起的兴奋作为图像的前景和背景进行可视化。如果这样的技术对策不可能或不切实际，另一种选择可能是制定法律，只允许在医疗、治疗或私人目的下进行情感可视化，并受到足够的监管。例如，在隐私保护法规（如《通用数据保护条例》[2]）下，个人的情绪状态可以被视为个人信息，因此受到今天已经可用的保护和透明度的保护。我们相信，对于可能出现的问题以及如何避免这些问题的考虑，将使情感可视化对人们的福祉产生积极的影响。04 致谢0作者们在这项工作中获得了瑞典知识基金会的资助（CAISR2010/0271和Sidus AIR no.20140220）。我们感谢所有慷慨提供评论和想法的人！0参考文献0[1] [n. d.]. 《黑镜》剧集解释. ([n. d.]). en.wikipedia.org/wiki/Black_ Mirror [2] [n. d.].欧盟通用数据保护条例（GDPR）. ([n. d.]). https://www. eugdpr.org/ [3] [n. d.].基于恐惧的愤怒是暴力的主要动机. ([n. d.]).https://www.psychologytoday.com/blog/wicked-deeds/201707/fear-based-anger-is-the-primary-motive-violence [4] Robert Agnew. 2006.一般应变理论：现状和进一步研究方向. 《犯罪学理论的现状和方向》 15 (2006),101–123. [5] T. B. Brown, D. Mané, A. Roy, M. Abadi, and J. Gilmer. 2017. 对抗性贴片.ArXiv e-prints (Dec. 2017). arXiv:cs.CV/1712.09665 [6] Joseph Bullington. 2005.“情感”计算和情感识别系统：生物特征监控的未来？.《信息安全课程发展第二届年会论文集》 . ACM, 纽约, 纽约, 美国, 95–99.https://doi.org/10.1145/1107622.1107644 [7] Martin Cooney, Shuichi Nishio, andHiroshi Ishiguro. 2015. 能够识别社交触摸行为的小型人形机器人的情感互动.《交互智能系统（TiiS）》 4, 4 (2015), 19. [8] Martin D Cooney, Shuichi Nishio, andHiroshi Ishiguro. 2015. 触摸在与小型人形机器人的多模态互动中传达情感的重要性.《人形机器人国际期刊》 12, 01 (2015), 1550002. [9] Roddy Cowie. 2015.情感计算中的伦理问题. (2015).http://www.oxfordhandbooks.com/view/10.1093/oxfordhb/9780199942237.001.0001/oxfordhb-9780199942237-e-006 [10] Paul Ekman and Wallace V Friesen.1969. 非言语泄露和欺骗的线索. 《精神病学》 32, 1 (1969), 88–106. [11] ThomasGrote and Oliver Korn. 2017. 情感计算的风险和潜力. 对ACM道德准则的跨学科视角.《CHI 2017人机交互伦理研讨会》 . [12] Nick Haslam. 2006. 人格剥夺：综合评述.《人格与社会心理学评论》 10, 3 (2006), 252–264. [13] Jeff T Larsen, A Peter McGraw,and John T Cacioppo. 2001. 人们能同时感到快乐和悲伤吗？ 《个性与社会心理学杂志》81, 4 (2001), 684. [14] Hong-Wei Ng, Viet Dung Nguyen, Vassilios Vonikakis, andStefan Winkler. 2015. 使用迁移学习进行小型数据集上的情感识别的深度学习.《2015年ACM国际多模态交互会议论文集》 . ACM, 纽约, 纽约, 美国, 443–449. https://doi.org/10.1145/2818346.2830593 [15] Kohei Ogawa, Koichi Taura, and HiroshiIshiguro. 2012. 作为诗歌朗诵代理人的机器人的可能性. 《2012年IEEE RO-MAN》 . IEEE,565–570. [16] Masaru Ohkubo, Miki Yamamura, Hiroko Uchiyama, and TakuyaNojima. 2014. 呼吸服：使用hairlytop接口的艺术作品.《第11届计算机娱乐技术进展会议论文集》 . ACM, 39. [17] Catherine O’Neill. 2016.数学毁灭的武器. 《大数据如何增加不平等并威胁民主》 (2016). [18] RebeccahPailes-Friedman. 2015. BioWear：通过可穿戴技术传达情感的动态配饰.《2015年ACM国际普适计算联合会议和2015年ACM国际可穿戴计算机研讨会论文集》 .ACM, 627–633. [19] Rosalind W Picard. 1995.情感计算-MIT媒体实验室感知计算部门技术报告第321号. 《剑桥，马萨诸塞州》 2139(1995). [20] Rosalind W. Picard and Jennifer Healey. 1997. 情感穿戴. 《个人技术》 1,4 (01 Dec 1997), 231–240. https://doi.org/10.1007/BF01682026 [21] Isabella Poggi,Francesca D’Errico, and Laura Vincze. 2010. 点头的类型. 一种社交信号的多义性..《LREC》 . [22] Anas Samara, Maria Luiza Recena Menezes, and Leo Galway. 2016.使用神经生理数据进行情感识别和建模的特征提取.《普适计算与通信和2016年国际网络空间和安全研讨会（IUCC-CSS），国际会议》 . IEEE,138–144. [23] Erica Scharrer. 2008.新闻报道中的媒体暴力暴露和对暴力的敏感性：麻木的证据？ 《新闻学与大众传播季刊》85, 2 (2008), 291–310. [24] Amanda Sharkey and Natalie Wood. 2014.Paro海豹机器人：贬低还是赋能. 《AISB会议论文集》 , Vol. 36. [25] AlessandroVinciarelli, Hugues Salamin, and Maja Pantic. 2009.社交信号处理：通过非语言行为分析理解社交互动.《计算机视觉和模式识别研讨会，2009年CVPR研讨会2009年IEEE计算机协会会议》 . IEEE,42–49.0主题：重新编码黑镜 WWW 2018，2018年4月23日至27日，法国里昂
我的内容管理
展开
