意识与伦理：人工智能道德地位的替代方法

无需思考：为什么意识不是人工智能伦理David J. Gunkel11美国北伊利诺伊大学dgunkel@niu.edu抽象。关于他人的道德和/或法律地位的问题通常是根据预先存在的本体论属性来决定的，例如，所讨论的实体是否拥有意识或知觉，或者是否有能力体验痛苦。在下文中，我通过确定三个哲学问题与属性approach（即实质性，术语学和认识论的复杂性）来质疑这个标准操作程序，我提出了一种定义和决定道德地位的替代方法，这种方法在其表述中更具经验性，更少投机性。这种选择将重点从内在的本体论属性转移到外在的社会关系上，因此可以被称为人工智能伦理学中的关键词：人工智能，意识，伦理1介绍伦理学，无论在理论上还是在实践上，都是一项排他性的事业。在面对和对待他人时，我们不可避免地要在“谁”在道德上是有意义的和“什么”仍然只是一件事之间做出决定。这些决定（从字面上看，是存在结构中的一个切割或“道德地位的标准方法是，”马克·科克尔伯格解释说，“指的是所讨论的实体的一个或多个（内在）属性，如意识或受苦的能力。如果实体具有这种属性，那么这就保证给予实体某种道德地位”[1]。根据这种思维方式--人们可以称之为道德规范的标准操作程序--关于他人地位的问题需要通过以下方式来决定：首先确定哪些属性或属性对于具有道德地位是必要的和充分的，然后弄清楚特定实体（或一类实体）是否拥有这种属性。以这种方式决定事情，虽然完全合理和有利，但至少有三个哲学问题，所有这些问题在人工智能和机器人面前变得越来越明显和成问题。22三个哲学问题2.1实质性首先，如何确定哪些确切的属性或属性是必要的和充分的道德地位？换句话说，哪一个或哪几个算？事实上，道德哲学的历史可以被解读为一场持续的争论和斗争，在不同的时间，不同的属性争夺注意力。在这一过程中，许多一度看来既必要又足够的性质已被证明是虚假的、有偏见的或两者兼而有之的。以理性为例。当伊曼努尔·康德将道德定义为涉及意志的理性决定时，不具备理性的非人类动物被排除在道德考虑之外。正是因为人类拥有理性，他（以及在这种特殊情况下，人类仍然被主要地理解为男性）被提升到动物的本能行为之上，能够根据纯粹实践理性的原则行事。然而，理性的属性随后受到了动物权利哲学的质疑，根据彼得·辛格的分析，这一哲学始于杰里米·边沁的批评性干预：“问题不是，'他们能理性吗？'“他们能说话吗？”而是“他们能受苦吗”[3]的第11段。根据辛格的说法，道德上相关的属性不是言论或理性，他认为这将为道德包容设置过高的标准，而是感知和受苦的能力。在《动物解放》（Animal Liberation，1975）和随后的著作中，辛格认为，任何有知觉的实体，因此任何能够受苦的存在，都有不受苦的利益，因此应该考虑到这种利益。然而，这并不是关于这个问题的最后结论。对动物权利哲学的批评之一是，这种发展尽管承诺干预以动物为中心的传统，但仍然是一种排他性和排斥性的做法。例如，环境伦理学一直批评动物权利哲学将道德创新组织在一种财产（即suf- fering）上，这种财产包括道德主体共同体中的一些有知觉的生物，同时证明排除其他种类的但是，即使是这些开放和扩大合法道德主体共同体的努力，也因建立额外的排除而受到批评（这并不奇怪）。卢西亚诺·弗洛里迪认为：“即使是生物伦理学和环境伦理学，也未能达到完全的普遍性和公正性，因为它们仍然对无生命、无生命、无形、抽象、工程、人工、合成、混合或仅仅是可能的东西有偏见。例如，即使是土地伦理也对技术和艺术有偏见.从他们的角度来看，只有直观上活着的东西才值得被认为是道德要求的适当中心，无论多么微小，所以整个宇宙都逃脱了他们的注意。因此，无论什么财产（或财产）被认定为具有道德意义，财产的选择仍然是有争议的，有争议的，似乎是无法解决的。因此，问题不一定是决定哪些财产或财产被选择为道德的，3显著问题在于这种方法本身，它使道德考虑依赖于对属性的事先确定。2.2术语第二，无论选择哪种属性（或属性集），它们都有术语上的麻烦，因为理性、意识、痛苦等对不同的人意味着不同的东西，似乎无法明确定义。例如，意识是一种被引用为道德主体性的充分必要条件的属性[6]。但是，意识始终难以定义或描述。正如马克斯·韦尔曼（Max Velmans）所指出的那样，问题在于这个术语不幸地“对许多不同的人来说意味着许多不同的东西，并且没有普遍认同的核心含义存在”。事实上，如果说哲学家、心理学家、认知科学家、神经生物学家、动物行为学家、人工智能研究人员和机器人工程师对意识有什么共识的话，那就是在定义和描述这个概念时，几乎没有或根本没有共识。虽然意识，正如安妮·福斯特所说，是世俗的，而且应该是神秘的“灵魂”的更其他房产也好不到哪里去。痛苦和痛苦的体验--这是通常在非标准的以病人为导向的方法中使用的属性，比如动物权利哲学--也是有问题的，正如丹尼特在文章《为什么你不能制造一台能感觉到疼痛的计算机》中巧妙地证明的那样。在这篇标题鲜明的文章中，丹尼特设想试图反驳人类（和动物）例外论的标准论点，“通过实际编写一个疼痛程序，或设计一个疼痛感觉机器人”。丹尼特对这个问题进行了相当长时间的详细考虑，并给出了详细的框图和程序流程图，最后他得出结论：事实上，我们不能制造一台会感到疼痛的计算机。但得出这一结论的原因并不是人们所期望的。根据丹尼特的说法，你不能制造一台能感觉到疼痛的计算机的原因并不是因为机器或程序的技术限制。这是一个事实的产物，我们仍然无法决定什么是痛苦摆在首位。因此，丹尼特所证明的，并不是某种可行的疼痛概念不能在计算机或机器人的机制中被实例化，无论是现在还是在可预见的未来，而是将被实例化的疼痛概念本身已经是任意的、不确定的和不确定的。2.3认识论事实上，工程师们不仅构建了合成可信情绪反应的机制[10] [11] [12]，而且还构建了能够表现出我们通常认为是“疼痛”的东西的系统。在这些情况下，有趣的问题是确定这是否实际上是“真正的疼痛”或只是一个模拟。换句话说，一旦道德上重要的财产或财产已经确定和定义，如何才能完全确定？4认为一个特定的实体拥有它，实际上拥有它，而不仅仅是模拟它？这个问题很难回答，特别是因为大多数被认为与道德相关的属性往往是内在的心理或主观状态，这些状态不是立即可及的或直接可观察的。正如保罗·丘奇兰（PaulChurchland）的一个著名问题：“一个人如何确定自己以外的东西--一个外星生物、一个复杂的机器人、一台社交活跃的计算机，甚至另一个人类--是否真的是一个有思想、有感觉、有意识的存在;而不是，例如，一个无意识的自动机，其行为源于真正的精神状态以外的东西？”[13]第10段。当然，这就是哲学家们通常所说的“他心问题”。尽管这个问题不一定是棘手的，正如我认为史蒂夫·托伦斯（Steve Torrance）令人信服地论证的那样，事实是我们不能，正如唐娜·哈拉维（Donna Haraway）所描述的那样，“爬进别人的头脑，从里面得到完整的故事”。3思维否则为了回应这些问题，哲学家，特别是欧洲大陆传统的哲学家，已经提出了决定道德地位问题的替代方法，由于缺乏更好的描述，可以称之为“思考”。这句话表明了不同的方式来制定有关道德地位的问题，这是开放的，并能够容纳他人和其他形式的他性。3.1相对关系根据这种不同的思维方式，道德地位的决定和授予不是基于事先决定的主观或内在属性，而是根据客观可观察的外在关系。当我们遇到其他实体并与之互动时，无论他们是另一个人、动物、自然环境还是家用机器人，这个他者首先是在与我们的关系中体验到的。因此，道德地位的问题并不取决于或源于他者在本质上是什么，而是取决于她/他/它（这里代词的选择是问题的一部分）与我们的关系如何，以及我们面对他者时如何决定回应。因此，与标准操作程序相反，实体是什么并不决定它享有的道德价值的程度。相反，暴露于他者的面孔，列维纳斯称之为这种观点的转变--将伦理置于本体论之前，从而颠覆了标准程序--不仅仅是一个理论上的提议;事实上，它已经在计算机、人工智能和机器人的大量实际研究中得到了实验证实。例如，Byron Reeves和Clifford Nass进行的计算机作为社会行为者（CASA）研究表明，人类用户会给予计算机与另一个人相似的社会地位，这是外在社会互动的产物，而不管所讨论的实体的实际内在属性（实际上已知或未知）。这些结果已在两个5与机器人的研究，研究人员发现，人类受试者对机器人有情感上的反应，并表达对机器的同情，而不管有关设备的属性或内部工作原理的知识[19] [20]。虽然列维纳斯本人可能不会承认这一点，但这些研究所证明的正是他所推进的：对他者的伦理反应先于甚至胜过关于本体论属性的决定。3.2激进的经验主义在这种情况下，他者心智的问题--难以确切地知道与我对抗的他者是否有意识心智或是否能够体验痛苦--并不是在道德决策之前必须处理和解决的某种基本认识论限制。列维纳斯哲学没有被这个认识论问题绊倒或偏离轨道，而是立即肯定和承认它是伦理学本身的可能性的条件。或者正如理查德·科恩简洁地描述的那样，“不是‘其他思想’，请注意，而是其他人的‘脸’，以及所有其他人的脸”[21]。这样，列维纳斯就提供了一种看起来更专注、更有经验基础的方法来解决他人心灵的问题，因为他明确承认并努力回应他人最初的、不可缩小的差异，并为之负责，而不是卷入和玩各种投机性的（不幸的是错误的）头脑游戏。这意味着道德决策的优先顺序可以而且也许应该颠倒过来。内在属性并不是第一位的，然后道德尊重就从这个本体论的基础开始了。相反，道德上重要的属性-那些我们假设锚定道德尊重的本体论标准-是Slavoj Zižek所说的“追溯（presup）假设”[22]，作为面对与他人的社会互动所做决定的结果和理由。换句话说，我们将道德相关的属性投射到那些我们已经决定视为具有社会意义的其他人身上，用列维纳斯的术语来说，就是那些被认为有面子的其他人。3.3利他主义最后，由于道德是在与他人的关系中或面对他人时显现出来的，关于道德地位的决定不再是关于给予他人权利的决定。相反，他者首先质疑我的权利，挑战我的孤独。这就中断甚至逆转了以前的伦理形式所享有的权力关系。在这里，它不是一个特权集团的内部人士，然后决定扩大权利给他人，这是所有形式的道德包容或辛格所谓的“解放运动”的标准模式。相反，其他人挑战和质疑我认为我已经拥有的权利和自由。因此，主要的姿态不是把权利赋予他人，作为一种仁慈的姿态，甚至不是对他人的同情，而是决定如何回应他者，他者总是6已经让我的权利和特权受到质疑了这样的伦理学在严格意义上是利他主义的。它是“属于或给别人的”。然而，这意味着我们有义务认真地将所有其他人视为他者，包括其他人、动物、自然环境、人工制品、技术和人工智能。严格地说，预先限制谁可以是他者的引用1. Cocekelbergh ， M. 成 长 的 道 德 关 系 ： 道 德 地 位 归 属 批 判 。 New York ：Palgrave Macmillan.2. 康德岛《实践理性批判》翻译L。W.贝克New York：Macmillan.3. 边沁，《道德与立法原理导论》。牛津：牛津大学出版社.4. 《动物解放：我们对待动物的新伦理学》（Animal Liberation：A New Ethicsfor Our Treatment of Animals）New York：New York Review of Books（1975）.5. 弗洛里迪湖信息的道德。牛津：牛津大学出版社（2013）.6. Himma，K. E.人工代理、意识和道德代理的标准：人工代理必须具备哪些属性才能成为道德代理？道德与信息技术11（1），197. Velmans，M. 理解意识。London，UK：London.8. 本福德湾&E.马拉特超越人类：与机器人和半机械人生活在一起New York：Tom Doherty.9. Dennett，D，C. 头脑风暴。Cambridge，MA：MIT Press.10. 贝茨，J.情感在可信代理人中的作用。 Communications of the ACM37，12211. Blumberg，B.，P. Todd，M.梅斯没有坏狗：动物行为学的教训。第四届自适应神经网络仿真国际会议论文集（SAB 96），295-304。Cambridge，MA：MIT Press.12. 布雷西亚角&R.布鲁克斯机器人情感：一个功能性的观点。《谁需要情感：大脑遇上机器人》（Who Needs Emotions：The Brain Meets the Robot），J.M.Fellous和M.Arbib，271310.牛津：牛津大学出版社（2004）.13. Churchland，P. M. 物质与意识剑桥，麻省理工学院出版社（1999）.14. Torrance，S.人工意识与人工伦理：在现实主义与社会主义之间。PhilosophyTechnology27（1），9-29（2013）.715. Haraway，D. 当物种相遇Minneapolis，MN：University of Minnesota Press（2008）.16. Gunkel，D. J.机器问题Cambridge，MA：MIT Press.17. Levinas，E. 整体性和无限性。Trans.由A.林吉斯Pittsburgh，PA：DuquesneUniversity Press（1969）.18. 里夫斯湾&C.纳斯媒体方程式。剑桥：剑桥大学出版社.19. Rosenthal-von der Pütten，A. M.，N. C.克雷默湖Hoffmann，S.索别拉杰C.艾姆勒对机器人情绪反应的实验研究。International Journal of Social Robotics5，17-34（2013）.20. 铃木，Y.，L. Galli，A.池田，S.板仓湾北崎使用脑电图测量人类和机器人手部疼痛的同理心。科学报告5，15924（2015）。21. 科恩河A. 伦理学、训诂学与哲学：列维纳斯之后的诠释。剑桥：剑桥大学出版社.22. ižek，S. 因为他们不知道他们在做什么：享受作为一个政治因素。London：Verso.