不费吹灰之力：为什么意识既不是人工智能伦理的必要条件，也不是其充分条件？

下一篇：为什么意识既不是AI伦理大卫·J Gunkel11美国北伊利诺伊大学dgunkel@niu.edu抽象的。关于他人的道德和/或法律地位的问题通常是根据预先存在的本体论属性来决定的，例如。所讨论的实体是否拥有意识或感觉，或者是否具有体验痛苦的能力。在下文中，我通过确定三个哲学问题来质疑这个标准操作程序，这些问题与属性方法（即：实质性的，术语学的，和认识论的复杂性），我提出了一种定义和决定道德地位的替代方法，在其制定中更多的是经验主义和更少的投机性。这种选择将重点从内部的本体论属性转移到外部的社会关系，因此可以被称为AI伦理学中的关键词：人工智能，意识，伦理1介绍伦理学无论在理论上还是在实践上都是一项排他性的事业。在面对和与他人打交道时，我们不可避免地要在“谁”在道德上是有意义的和“什么”仍然是一个纯粹的东西之间做出决定。这些决定（从字面上看，是存在结构中的一个切口或马克·科克尔伯格解释说：“证明道德地位的标准方法是，引用所讨论的实体的一个或多个（内在）属性，如意识或受苦的能力。如果实体具有这种属性，那么这就保证给予实体一定的道德地位”[1]。根据这种思维方式--人们可以称之为道德考虑的标准操作程序--关于他人地位的问题需要通过以下方式来决定：首先确定哪些属性或属性是具有道德地位所必需和充分的，然后弄清楚某个特定实体（或一类实体）是否拥有这种属性。以这种方式决定事情，虽然完全合理和有利，但至少有三个哲学问题，所有这些问题在人工智能和机器人面前变得越来越明显和成问题。22三个哲学问题2.1实质性首先，如何确定哪些确切的属性或属性是必要的和充分的道德地位？换句话说，哪一个或哪几个算？事实上，道德哲学的历史可以被解读为一个持续的争论和斗争，在不同的时间，不同的属性争夺注意力。在这个过程中，许多一度看来既必要又足够的性质，后来被证明是虚假的、有偏见的或两者兼而有之的。以理性为例。当伊曼努尔·康德将道德定义为涉及意志的理性决定时，不具备理性的非人类动物被排除在道德考虑之外。正是因为人类拥有理性，他（以及在这种特殊情况下，人类仍然被主要地理解为男性）被提升到野兽的本能行为之上，能够根据纯粹实践理性的原则行事。然而，理性的属性随后受到了动物权利哲学的质疑，根据彼得·辛格的分析，这始于杰里米·边沁发表的批判性干预：“问题不在于‘他们能推理吗？”“他们能说话吗？””但他们能受苦吗？'”[3]。根据辛格的观点，道德相关的属性不是言论或理性，他认为这会为道德包容设置过高的标准，而是感知和承受痛苦的能力。在《动物解放》（1975）和随后的著作中，辛格认为，任何有知觉的实体，因此任何能够受苦的存在，都有不受苦的利益，因此应该考虑到这种利益。然而，这并不是关于这个问题的最后结论。对动物权利哲学的批评之一是，这种发展尽管承诺干预人类中心主义传统，但仍然是一种排他性和排斥性的做法。例如，环境伦理学一直批评动物权利哲学将其道德创新组织在一个财产上（即动物权利）。suf- fering），其中包括一些有感情的生物在共同体的道德主体，而同时证明排除其他种类的“较低的动物”，植物，和其他实体，构成自然环境。但是，即使是这些开放和扩大合法道德主体共同体的努力，也（毫不奇怪）被批评为建立了额外的例外。卢西亚诺·弗洛里迪认为：“即使是生物伦理学和环境伦理学，也未能达到完全的普遍性和公正性，因为它们仍然对无生命的、无生命的、无形的、抽象的、工程的、人造的、合成的、混合的或仅仅是可能的东西有偏见。例如，即使是土地伦理也对技术和艺术事实有偏见。从他们的角度来看，只有直观上活着的东西才值得被认为是道德主张的适当中心，无论多么微小，所以整个宇宙都逃脱了他们的注意。因此，无论什么财产（或财产）被认定为具有道德意义，财产的选择仍然是有争议的，有争议的，似乎是无法解决的。因此，问题不一定是决定哪一种或哪几种财产被选择为道德的3显著问题在于这种方法本身，它使道德考虑依赖于对属性的事先确定。2.2术语第二，无论选择哪种属性（或属性集），它们都有术语上的麻烦，比如理性、意识、痛苦等。对不同的人意味着不同的东西，似乎抗拒一词多义的定义。例如，意识是一种被引用为道德主体性的充分必要条件的属性[6]。但意识始终难以定义或描述。正如马克斯·维尔曼斯（Max Velmans）所指出的那样，问题在于这个术语不幸地“对许多不同的人来说意味着许多不同的东西，并且没有普遍认可的核心含义存在”。事实上，如果说哲学家、心理学家、认知科学家、神经生物学家、动物行为学家、人工智能研究人员和机器人工程师对意识有什么共识的话，那就是在定义和描述这一概念时，几乎没有或根本没有共识。虽然意识，正如安妮·福斯特所说，是世俗的，而且被认为是神秘的“灵魂”的更其他房产也好不到哪里去。痛苦和疼痛的体验--这是通常在非标准的以病人为导向的方法中使用的属性，比如动物权利哲学--也是有问题的，正如丹尼特在文章《为什么你不能制造一台能感觉疼痛的电脑》中巧妙地证明的那样。在这篇标题挑衅性的文章中，丹尼特想象着试图“通过实际编写一个疼痛程序，或设计一个疼痛感觉机器人”来反驳人类（和动物）例外论的标准论点[9]。丹尼特对这个问题进行了相当长时间的详细考虑，并给出了详细的框图和程序流程图，最后他得出结论：事实上，我们不能制造一台会感到疼痛的计算机。但得出这一结论的原因并不是人们所期望的。根据丹尼特的说法，你不能制造一台能感觉到疼痛的计算机的原因并不是机械或编程的技术限制。这是一个事实的产物，我们仍然无法决定什么是痛苦摆在首位。因此，丹尼特所证明的并不是某种可行的疼痛概念不能在计算机或机器人的机制中被实例化，无论是现在还是在可预见的未来，而是将被实例化的疼痛概念本身已经是任意的、不确定的和不确定的。2.3认识论事实上，工程师们不仅构建了合成可信情绪反应的机制[10] [11] [12]，而且还构建了能够表现出我们通常认为是“疼痛”的东西的系统。在这些情况下，有趣的问题是确定这是否实际上是“真正的疼痛”或只是一个模拟。换句话说，一旦道德上重要的属性或属性被识别和定义，如何才能完全确定？4是不是一个特定的实体拥有它，并且实际上拥有它，而不仅仅是模拟它？回答这个问题是困难的，特别是因为大多数被认为与道德相关的属性往往是内在的心理或主观状态，这些状态不是立即可及或直接可观察的。正如保罗·丘奇兰（Paul Churchland）所言：“一个人如何确定除了他自己之外的其他东西--一个外星生物、一个复杂的机器人、一台社会活动的计算机，甚至另一个人类--是否真的是一个有思想、有感觉、有意识的存在;而不是，例如，一个无意识的自动机，其行为源于真正的精神状态以外的东西？”[13]。当然，这就是哲学家们通常所说的“他心问题”虽然这个问题不一定是棘手的，正如我认为史蒂夫·托伦斯（Steve Torrance）令人信服地论证的那样[14]，但事实是，正如唐娜·哈拉维（Donna Haraway）所描述的那样，我们不能“爬进别人的头脑中，从内部获得完整的故事”[15]。3思维否则为了回应这些问题，哲学家，特别是欧洲大陆传统的哲学家，已经提出了决定道德地位问题的替代方法，由于缺乏更好的描述，可以称之为“以其他方式思考”[16]。这句话表明了不同的方式来制定有关道德地位的问题，这是开放的，并能够容纳他人和其他形式的他性。3.1相对关系根据这种思维方式，道德地位的决定和授予不是基于事先决定的主观或内部属性，而是根据客观可观察的外在关系。当我们遇到其他实体并与之互动时--无论它们是另一个人、动物、自然环境还是家用机器人--这个他者首先是在与我们的关系中体验到的。因此，道德地位的问题并不取决于或源于他者在本质上是什么，而是取决于她/他/它（这里代词的选择是问题的一部分）与我们的关系，以及我们面对他者时如何决定回应。因此，与标准操作程序相反，实体是什么并不决定它享有的道德价值的程度。相反，暴露在他者面前，列维纳斯称之为这种视角的转变--通过将伦理学置于本体论之前来颠倒标准程序的转变--不仅仅是一个理论上的提议;事实上，它已经在计算机、人工智能和机器人的大量实际研究中得到了实验证实。例如，Byron Reeves和Clifford Nass进行的计算机作为社会参与者（CASA）研究表明，人类用户将给予计算机与另一个人相似的社会地位，并且这是外部社会互动的产物，而不管所讨论的实体的实际内在属性（实际上已知或未知）[19]。这些结果已在两个5与机器人的研究，研究人员发现，人类受试者对机器人有情感反应，并表达对机器的移情关注，而不管有关设备的属性或内部工作原理的知识[19] [20]。虽然列维纳斯本人可能不会承认这一点，但这些研究所证明的正是他所推进的：对他者的伦理反应先于甚至胜过关于本体论属性的决定。3.2基本经验在这种情况下，其他心智的问题--难以确切地知道与我对抗的其他人是否有意识的心智或是否能够体验痛苦--并不是在做出道德决策之前必须解决和解决的一些基本认识论限制。列维纳斯哲学没有被这个认识论问题绊倒或偏离轨道，而是立即肯定和承认它是伦理学本身的可能性的条件。或者正如理查德·科恩简洁地描述的那样，“不是‘其他思想’，请注意，而是其他人的‘脸’，以及所有其他人的脸”[21]。因此，勒维纳斯以这种方式提供了一种看起来更专注、更有经验基础的方法来解决他人心灵的问题，因为他明确承认并努力回应他人最初的、不可简化的差异，并为之承担责任，而不是卷入和玩各种投机性的（不幸的是错误的）头脑游戏。这意味着道德决策的优先顺序可以而且也许应该颠倒过来。内在属性并不是第一位的，然后道德尊重就从这个本体论的基础开始了。相反，道德上重要的属性-那些我们假设锚定道德尊重的本体论标准-是斯拉沃伊·齐泽克所说的“追溯（presup）假设”[22]，作为面对与他人的社会互动所做决定的结果和理由。换句话说，我们将道德相关的属性投射到那些我们已经决定视为具有社会意义的其他人身上，用列维纳斯的术语来说，就是那些被认为有面子的其他人。3.3字面意义上的利他主义最后，由于伦理是在与他人的关系中或面对他人时显现出来的，关于道德地位的决定不再是关于给予他人权利的决定。相反，另一个人首先质疑我的权利，挑战我的孤独。这就中断甚至逆转了以前的伦理形式所享有的权力关系。在这里，它不是一个特权集团的内部人士，然后决定扩大权利给他人，这是所有形式的道德包容或辛格所谓的“解放运动”的标准模式。相反，其他的挑战和质疑我认为我已经拥有的权利和自由。因此，主要的姿态不是把权利赋予他人，作为一种仁慈的姿态，甚至不是对他人的同情，而是决定如何回应他者，他者总是6已经让我的权利和假定的特权受到质疑这样的伦理学在严格意义上是利他主义的。它是“属于或给别人的”。然而，这意味着我们有义务认真地将所有其他人视为他者，包括其他人、动物、自然环境、人工制品、技术和人工智能。严格地说，预先限制谁可以是他者的引用1. Cocekelbergh，M. 发展道德关系：道德地位归属批判。New York：PalgraveMacmillan.2. 康德岛实践理性批判。翻译为L.水渍贝克New York：Macmillan.3. 边沁，《道德与立法原理导论》。牛津：牛津大学出版社（2005）.4. Singer，P.动物解放：我们对待动物的新道德。New York：New York Reviewof Books（1975）.5. 弗洛里迪湖信息的道德。牛津：牛津大学出版社（2013）.6. Himma，K.大肠人工能动性、意识与道德能动性的标准一个人工智能主体必须具备什么性质才能成为道德智能主体？Ethics and Information Technology11（1），197. Velmans，M. 理解意识。London，UK：Routledge.8. 本福德湾&大肠马拉特超越人类：与机器人和Cyborgs一起生活New York：Tom Doherty.9. Dennett，D，C. 头脑风暴。马萨诸塞州剑桥：MIT Press（1998）.10. J.贝茨：《情感在可信代理人中的作用》 ACM通信37，12211. Blumberg，B. P. Todd，M.梅斯没有坏狗：动物行为学课程。第四届适应性行为模拟国际会议论文集（SAB 96），295-304。马萨诸塞州剑桥：MIT Press（1996）.12. 布雷西亚角&室布鲁克斯机器人情感：功能性视角。《谁需要情感：大脑遇上机器人》（Who Needs Emotions：The Brain Meets the Robot），J.先生Fellous和M.Arbib，271310.牛津：牛津大学出版社（2004）.13. Churchland，P.先生物质与意识剑桥，麻省理工学院出版社（1999）.14. Torrance， S.人工意识与人 工伦理：现实主义与社 会关系主义之间。Philosophy Technology27（1），9-29（2013）.715. Haraway，D. 当物种相遇明尼苏达州明尼阿波利斯：明尼苏达大学出版社（2008）.16. Gunkel，D. J.机器问题马萨诸塞州剑桥：MIT Press（2012）.17. Levinas，E. 整体性和无限性。翻译A。林吉斯宾夕法尼亚州匹兹堡：中国人民大学出版社.18. 里夫斯湾&梭纳斯媒体方程式剑桥：剑桥大学出版社（1996）.19. Rosenthal-von der Pütten，A. M.国梭克雷默湖Hoffmann，S.索别拉伊梭艾姆勒对机器人情绪反应的实验研究。International Journal of Social Robotics5，17-34（2013）.20. Suzuki，Y.，法律Galli，A. Ikeda，S.板仓湾北崎使用脑电图测量人类和机器人手部疼痛的同理心。Scientific Reports5，15924（2015）.21. 科恩河上午伦理学、训诂学和哲学：列维纳斯之后的解释剑桥：剑桥大学出版社（2001）.22. Žižek，S. 因为他们不知道自己在做什么：享受作为一个政治因素。London：Verso.