意识与有意识的机器：利害关系何在？

意识和有意识的机器：什么是风险？达米安·帕特里克·威廉姆斯[0000-0001-6652-2010]弗吉尼亚理工学院和州立大学Damienw7@vt.edu抽象的。本文探讨了人类和非人类意识的多种不同定义和表述的道德、认识论和法律含义。从种族，性别和残疾研究，包括知识的现象学基础和索赔意识的研究，我讨论了人类的不同群体之间的人格斗争的历史，以及非人类动物和系统。在探索人格斗争的历史时，我们有一个关于有意识机器的参与和识别可能如何进展的先例，更重要的是，一个要避免的陷阱路线图。在处理意识和人格的问题时，我们最终要处理的是权力和压迫以及知识和本体论地位的问题，这些问题需要对所涉及的利益相关者进行情境化和关系化的理解。最后，我呼吁并概述了在确定或应用意识标签时，如何将细微差别、关系性和语境化置于规则或测试的系统化之前和之上。关键词：意识，机器意识，心灵哲学，现象学，身体心灵1介绍如果我们声称要考虑非人类意识的概念，我们就必须做更多的事情，而不仅仅是参与诸如“在什么样的标题下，以什么样的度量标准，这样的事情是可能的？”之类的问题。”我们设法生成的任何机器意识都将同时像和不像构成其生成基础的人类。它将像人类一样，因为它将由人类制造，并因此将有他们的观点和偏见;不同之处在于它将不是由与人类相同的组成成分构成的，也不会以同样的方式与世界相交和相关。对这样一种意识寄予类似人类的期望，将从根本上不尊重这种意识的他性--将其贬低为要说我们真正认真地考虑过这个概念，我们必须考察一个非人类、非生物学产生的意识在社会学、道德、政治、法律和关系方面的含义，要考虑这些含义，我们必须看看我们对存在的反应有哪些历史上的、往往是致命的先例。2面对意想不到的意识形式，非人类和人类。在本文中，我认为，许多西方的意识概念，虽然多样性和不同的实体集群的包容性，都排除了至少一个类别，在人类中，我们会说是有意识的，值得考虑。为此，我建议研究非西方的系统和学科，如种族、性别和残疾研究，以寻找它们可能赋予意识的新视角。此外，由于意识与人格的法律概念有着相当模糊的联系，由于人格是我们目前授予权利、考虑和政治权力的一个主要类别，我们必须从根本上考虑意识和人格，以及权力、考虑、保护和呼吸空间如何流向这些实体（实际的和潜在的）。我将检验人格的法律概念及其缺陷的含义，主张即使不是彻底的改革，也要进行修订。此外，我还支持这样一种观点，即意识不是任何一种排他性的东西，尽管意识理论提供了一些规则，可以用来说明什么是有意识的，什么不是有意识的，但它们仍然排除了我们认为是有意识的个体所体现的存在类型。本文不仅着眼于哲学，计算机科学和神经生物学，但种族，性别和残疾的现象学，以及人类和非人类动物被授予人格地位的历史背景。我也探讨了主体间性的问题，以及知识、理解和现实本身的共同创造。总之，我认为，只有通过创造一个关于知识和意识的主体间的解释，我们才能解释人类和非人类动物中存在的多种生活经验，并进一步引导我们创造先例的道路，使我们自己准备好与非人类、非生物的心灵相遇。最终，这项工作提出了一个跨学科的计划，用于寻找，分类和吸引多种思想，从而可以利用不同的见解来相互利用，以提供空间来综合新的观点。如果我们希望与有意识的机器建立联系并参与其中，我们必须编制工具集，以帮助探索这些心智2论意识、在我们讨论机器的潜在意识之前，我们必须问，什么是意识？在提出这个问题时，我们必须意识到，我们所使用的意识的定义必然会改变我们在一开始就将什至可以识别为有意识的主体的东西。意识有多种不同的哲学和神经生物学框架，如身心二元论、无意识、功能性意识和现象意识、具身性和扩展意识，当用作我们搜索或开始分类意识实体的标题时，每一种都有不同的含义和结果。然而，比这更根本的是，我们必须考虑使用“人工智能”一词来讨论潜在的有意识机器的含义3“人造”一词将这些心灵置于“不真实”和“低于”的地位，从而使关于这些心灵的地位的论述受到偏见。从一开始，这种框架就将任何创造或生成的智能置于守势，迫使它支持自己的价值，甚至支持它的存在和经验的现实。虽然它们肯定是有意形成的，并且着眼于它们的潜在能力，但没有任何措施可以可靠地论证实体意识的“人为性”。对意识和心智的测试和度量存在问题，从将死鱼登记为有意识到不将有意识的活人登记为有意识。出于这个原因，我更喜欢Jamais Cascio [2]首先提出的“自主创造的智能”术语，“自主生成的智能”（AGI），由研究人员Emily Dare在谈话中创造，或者简单地说是“机器思维”。此外，当我们问是否有任何这样的事情，比如“现象”意识的概念认为，人类不仅仅是符号处理机器。人类的经验是对某件事的经验，有一种东西是“像”是一个头脑，体验事物。这通常被称为“感受质”，来自“主观”或“定性”经验。对这一观点最著名的探索之一是托马斯·内格尔的开创性论文《蝙蝠是什么样的？在这一点上，他认为，一个人，即使是一个著名的蝙蝠生物学家，也永远不会真正理解蝙蝠的生活经历是什么样的，因为人类不像蝙蝠那样存在一系列生理生物学限制。蝙蝠生活在弱光环境中，它们会成群地倒挂着筑巢、吃水果、吸血，或者通过回声定位进行捕猎;没有人能像蝙蝠那样以同样的大小、规模和组合完成所有这些任务。在这部作品的语境中，现象学被认为是指生活经验，对世界的感觉经验知识，来自特定的背景，如种族，性别，残疾，年龄，性取向等，其中的任何一个或全部可以由外部和内部因素调节。这一点借鉴了种族、性别和残疾理论家的工作，以建立在埃德蒙·胡塞尔（Edmund Husserl）在《关于纯粹现象学和现象 学 哲 学 的 思 想 》 （ Ideas Pertaining to a Pure Phenomenology and to aPhenomenologi- cal Philosophy）和莫里斯·梅洛-庞蒂（Maurice Merleau-Ponty）在《知觉现象学》（Phenomenology of Perception）[3]中所奠定的基础之上。同样，主体间性涉及个人和个人群体之间共享的知识和经验，他们将彼此视为合法的主体，而不是客体，创造了一个共同的现实，从中采取行动。为此目的，我相信我们必须研究非西方哲学，它们的认识论和意识概念与西方思想流派中经常发现的概念有着根本的不同。虽然非西方的转向并非没有缺点（例如，佛陀不相信女性可以获得启蒙），但这些系统提供了一个探索的基础，它们作为这个项目总体目标的对象课程：不同的知识体系会在不同的情况下提供不同的内部一致的答案，不同的现象学经验会产生不同的世界图景和不同的导航系统。4为了充分理解不同的生活经历产生不同类型的意识意味着什么，我们必须理解文化和社会形成了一个扩展的心灵，它形成并塑造了我们的身体形式和意识，使之成为残疾研究学者玛格丽特·普莱斯所说的“身体心灵”[4]，并为我们提供了在世界上行动的模板。在思考这种行为的局限性、内在同一性的局限性以及自我和他人的界限时，我们可以看看诸如忒修斯之船问题以及本体知觉、时间、流动和当下等问题的例子，所有这些似乎都在教导关于身心统一的重要课程。在这里，我们可以探讨伊恩·沃特曼（Ian Waterman）[5]、连体双胞胎阿比盖尔·洛兰·“艾比”·亨塞尔（Abigail Loraine“Abby”Hensel）和布列塔尼·李·亨塞尔（Brittany Lee Hensel）[6]，以及其他与世界有着“非标准”生理交集的人的案例，是如何让我们对自我的简单、明确的概念提出质疑的。通过这些案例，我们可以看到，任何与意识相关的生理学和神经学集合都可能存在无法充分描述我们所观察到的情况的情况。我们倾向于称之为人类意识的特殊安排，根据定义，是相关的，因此这意味着可能没有任何特定的东西使人类成为意识的特殊情况。这种相互关联的性质似乎也表明，没有一种单一的、特定的组织结构是所有类型和所有意识实例化所普遍需要的。我们可以在研究非人类动物思维的历史中看到这方面的证据，例如彼得·戈弗雷-史密斯的工作[7]，蜘蛛认知[8]，corvid认知[9]等等。但我们也必须考虑到人类历史上有很多次“非标准”的思想被归类为不“完全的人类”--女性因为直言不讳而被制度化;美国黑人被奴役，绝育，违背他们的意愿或在他们不知情的情况下进行实验[10];自闭症患者、唐氏综合症患者和其他神经多样性人群据说“并不真正感到疼痛”或受到大规模优生学运动的影响[11]。在每一个案例中，来自各种生活主观经验的报告文学都被打折，以支持一种被认为是关于“我们试图建立什么？”我们需要更好的工具吗？还是我们想建立新的思维？一些人想要前者，另一些人想要后者，并且没有关于哪个项目应该获得优先权以及为什么的沟通。虽然这种区别在考虑任何其他技术时可能并不重要，但如果我们想要或偶然创造出有意识的机器思维，我们绝对不应该把它们仅仅当作工具。人类历史告诉我们，一个意识到自己被当作一种工具，而不考虑自己作为一个主体或主体的感觉的头脑，很可能会反叛，难道这种头脑这样做不对吗？在那些不断被压迫、折磨、贬低、杀害、实验或奴役的人的历史上，我们常常把他们称为英雄，因为他们要求他们的生存权。为此，我们必须提前做好明确目标的工作。为了充分考虑世界上有意识的机器是如何存在的，我们需要考虑多种类型的意识，知识和智力。5基因，而不是部署“意识”，“知识”或“智力”，好像他们是单一的概念。然而，在这个项目中，我们遇到了人类中心主义及其相关物的危险，Ashley Shew称之为“人类条款”[12]。对意识的思考又一次导致了人格的概念，而人格的概念往往被认为直接等同于对人性的某种估计。然而，这只是上文提到的“正确类型”偏见的另一种变体：倾向于相信有一种“正确的类型”......思想，......身体，......皮肤，......性别，......性，......思想，......生命，......宗教。认为这些“正确类型”的特征存在的信念，在所有，往往会产生一种信念，即只有那些体现这些类型的人才是“真正的人”此外，由于人性是我们倾向于判断人格的类比的基础，那么任何不是“正确类型”的人都必然会在“人”的标题上提出要求，因此可能不值得被视为有意识的心灵。我们必须认识到，没有单一的3人物在潜在的机器思维的情况下，像图灵或镜像测试这样的测试不仅不应该被认为是不足以识别有思维的机器的任务，而且应该理解的是，这种测试错过了并将继续错过一些不被认为是“正常”的人类。如上所述，有统计学上显著数量的人未能通过旨在评估“正常”人类意识的测试，因为他们被偏见地排除在“意识”，“人性”和“人格”的定义之外。西方对人格的定义包括社会（事实上）定义和法律（法律上）定义，在社会（事实上）定义中，被当地或更广泛的社区接受的人或任何人都被视为人，在法律（法律上）定义中，人是法律保护下的人或任何人。但是，法律上的保护如果没有事实上的接受，仍然会导致表面上的人被当作非人对待。即使是哲学上的“人”的定义，至少，往往取决于实体的等级排序[13]。非裔美国人、妇女、残疾人、神经分歧者和LGBTQIA现象在某些时候都被认为是人格的非法候选人，有些人至今仍然如此。这些群体没有得到或仍然没有得到任何法律保护，直到我们努力改变我们的测量框架，我们表面上才得到所说的保护。我说表面上是因为，这些团体中的一些人仍然被国家机器杀害，没有实质性的影响。我们评估人的法律措施往往在面对作为一个人意味着什么的多种形式的外部性时失败。世界上不同的社会将不同的物种、物体、系统和群体划分为不同类型的人，包括拒绝接受群体和人类类型的生活经验的现实，而不管科学证据表明我们应该这样做。没有一个单一的测试或标准可以决定每一种类型的意识或心灵可能6需要被纳入“人格”的保护伞之下但也有非西方的人格定义。毛利人的河流被理解为自然和精神的祖先[15];神道教神--自然/精神能量的凝结耆那教徒明白所有生命都值得被关心、尊重和尊重。然而，即使有这些由来已久的例子，西方式的法律制度仍然要求个人或团体在广泛接受一个新的人格候选人之前达到他们的标准。4相互学习我们有很多很好的理由认为，人类对于理解意识、感知甚至认知的视角，远远不足以思考其他人类和非人类动物是否拥有这些东西，更不用说非动物甚至非生物实体是否可能拥有这些东西了。同样，毛利人、印度教徒和其他人认为河流和整个自然世界可以行动、受苦、有知觉，因此是有意识的[15，16]。对于这些信仰的追随者和这些文化的成员来说，大多数西方评估所有这些特征的措施都是可悲的不完整和以人类为中心的。如果他们是对的呢？我们能做些什么来以不同的方式思考这个问题，当我们这样做时，我们的评估会发生什么变化？我们必须努力相信那些与我们不同的人的存在和报道，为了做到这一点，我们可以从研究身份、信仰和知识的产生开始，再一次参考种族、性别、性行为、残疾和年龄的现象学。我们可以利用这些因素来建立主体间现象知识的基础，认识和接受共享的背景和确证那些被接受为人的内部一致的理解。我们的目标应该是不要把意识当作一个零和游戏，一个没有多个正确观点或多个正确答案的可能性。相反，如果我们说，许多虽然不是所有的观点都是正确的，那么我们可以学到更多的东西，我们可以有许多新的知识。有了这些知识，我们就可以探索“可能有不止一种正确的答案”和“所有答案都同样正确”这两种说法之间的关键区别。因为虽然所有对意识和知识的描述都来自同一个地方（即，有些描述性系统使我们更容易压迫和谋杀对方，而另一些系统则试图帮助我们所有人繁荣。许多人，包括当今超人类主义运动中的一些人，积极支持类似优生学的倡议，以确保“只有最好的”才能繁殖或存活。虽然想要“最好的”似乎是一个无害的想法，但那些持有这种想法的人最终往往会要求摧毁整个类别的人，或者至少相信有些人是如此低劣，以至于他们的毁灭或他们的代理限制不会造成道德风险。哲学家和科学家们继续认为意识存在于世界上必须有一种且只有一种正确的方式，这为任何人打开了大门，他们可以把一个可恶的三段论串在一起，说他们的观点得到了“最好的头脑”的支持7相反，我们必须从相信存在其他类型的心灵的立场出发，甚至在人类中间，因此不可能有单一的默认类型，没有规范的理想。在这里，我提出了一个跨学科的系统，结合了女性主义认识论，立场理论和其他理论框架的镜头上面提到的，因为这些观点偏好唐娜·哈拉方式术语的“下属”的观点，这些人最经常被忽视或不太可能被视为知识持有者[18]。虽然我更喜欢种族和性别研究、残疾研究、心灵哲学、技术哲学和动物研究等领域，但这并不是跨学科的唯一途径。通过结合科学、技术和人文学科的方法论工具，我们给自己一个更好的机会去理解那些违背我们关于什么是有意识的甚至是“正常的”假设的生活和意识。不这样做，就意味着继续处于真实的、经常性的危险之中，既会伤害不同的人类，因为他们“不是真正的人”，也会忽视非人类的意识，他们以我们归类为“非法”的方式体验自己的生活，因此可能以我们不认为是“真正的痛苦”的方式受苦。如果我们不接受并寻求理解他们经验的活生生的现象学知识，我们怎么会知道呢？5结论几十年来--如果不是几个世纪的话--人类一直在思考如何制造有意识的机器，但却没有完全认识到意识是什么，也没有诚实地欣赏我们在政治上、法律上、道德上和社会学上如何与新的意识候选人联系起来的先例。如果我们真诚地考虑创造一个机器思维需要什么，那么我们也必须考虑意外地产生一个机器思维对我们意味着什么。任何AGI都将与其人类创造者相似，但又不同，我们必须努力尊重他们的基本改变。要做到这一点，我们必须努力理解不同的人类和非人类的身体心灵，特别注意那些经常被压迫，忽视和边缘化的生活经验，因为这些现象学将发展出独特的认识论策略来理解和驾驭世界。底层现象学产生的知识和观点，我们可以从中学习，更快，更灵活，更有力地适应我们的概念，如何创造，更重要的是，认识和理解新类型的头脑。这种思维的敏捷性、速度和鲁棒性的提高反过来又会让我们准备好接受和尊重潜在意识机器的报道，减少我们让它们受苦的可能性。更简洁地说：如果我们想要创造和了解一个有意识的机器头脑，我们应该首先倾听那些与我们不同的活生生的人，他们被系统地阻止与我们交谈，因为他们会知道很多我们不知道的关于意识，社会和法律人格，并且被迫接受测试和争论他们自己生活经验的有效性。如果我们听从他们的意见，他们和未来的头脑可能会非常感激。8引用1. 作者声明：William，James.“奇怪的事情发生在一两点：思辨性小说媒介中的自主创造智能蕴涵“机器问题研讨会。2012年7月2. 卡西欧，牙买加。《卡西欧机器人定律》湾区AI会议。加利福尼亚州门洛帕克的门洛帕克。2009年3月22日会议介绍。3. 布朗西蒙妮。黑暗物质Durham，NC：Duke University Press，2015;胡塞尔，埃德蒙.与纯粹现象学和现象学哲学有关的观念。海牙：M. Nijhoff，1982;梅洛庞蒂莫里斯知觉现象学。伦敦：劳特利奇，1962年。4. 普莱斯玛格丽特。“身心问题与疼痛的可能性”第30章. 2015年。5. Cole，Jonathan和Waterman，Ian。骄傲和每日马拉松MA：MIT Press. 一九九五年6. 苏珊娜·施罗布斯多夫。“现实的信不信由你”。Newsweek.com. 2008年2月23日。http://www.newsweek.com/realitys-believe-it-or-not-93725。7. 戈弗雷-史密斯，彼得。其他思想：章鱼、海洋和意识的深层起源。纽约，Farrar，Straus和Giroux，20168. Japyassu ， H.F. &Laland ， K.N.“ 扩 展 蜘 蛛 认 知 ” 动 物 认 知 （ 2017 ） 20 ： 375 。https://doi.org/10.1007/s10071-017-1069-7。9. St Clair，James J H and Christian Rutz.“新喀里多尼亚乌鸦注意复杂工具的多功能特性”伦敦皇家学会哲学汇刊。Series B，Biological sciences vol.368，1630 20120415.doi：10.1098/rstb.2012.041510. 塔斯基吉大学，https：//www. tuskegee.edu/about-us/centers-of-excellence/bioethics-center/about-the-usphs-syphilis-study.11. 乌斯塔谢夫斯基安雅（2009）。“我不想被‘治愈’自闭症，谢谢。”卫报https：//www.theguardian.com/commentisfree/2009/jan/14/autism-health;Verbeek，Peter-Paul.“产科超声和道德的技术调解：后现象学分析《人类研究》，第31卷，第31期。1 、 后 现 象 学 研 究 （ 3 月 ） 2008 ） ， pp. 11-26; 施 普 林 格 。 http ：//www.jstor.org/stable/40270638;Kafer，Allison. 女权主义者，同性恋，瘸子.布卢明顿：印第安纳大学出版社，2013年12. Shew，Ashley. 动物构造和技术知识。Lanham，MD：Lex- ington Books，2017.13. 参见Mary Midgley，René Descartes，John Locke，Harry G.法兰克福和其他许多地方。14. J.R.安德森&盖洛普“镜像自我认知：对灵长类动物促进和设计自我认知的尝试的评论和批判。”Primates（2015）56：317. https://doi.org/10.1007/s10329-015-0488-915. 罗伊埃莉诺·安吉“新西兰河流被赋予与人类相同的法律权利。卫报2017年3月16日。https://www.theguardian.com/world/2017/mar/16/new-zealand-river-granted-same-legal-rights-as-human-being16.“ 印 度 的 恒 河 和 亚 穆 纳 河 不 是 生 命 实 体 。 BBC News. 2017 年 7 月 7 日 。https://www.bbc.com/news/world-asia-india-4053770117. 歌手彼得实践伦理学。北京：北京大学出版社. 2011; Singer，Pe- ter.“超越物种主义的人文主义”Free Inquiry，24，no. 6（Oct/Nov 2004），pp. 19-21.18. 哈拉维唐娜类人猿、半机械人和女人：大自然的再造。纽约：劳特利奇。一九九一年