意识和有意识的机器：风险是什么？达米安·帕特里克·威廉姆斯[0000-0001-6652-2010]弗吉尼亚理工学院和州立大学Damienw7@vt.edu抽象。本文探讨了人类和非人类意识的多种不同定义和表述的道德、认识论和法律含义。从种族，性别和残疾的研究，包括知识的现象学基础和索赔意识，我讨论了人类的不同群体之间的人格斗争的历史，以及非人类动物和系统。在探索人格斗争的历史时，我们有一个关于有意识机器的参与和识别可能如何进展的先例，更重要的是，一个要避免的陷阱路线图。在处理意识和人格的问题时，我们最终处理的是权力和压迫以及知识和本体论地位的问题，这些问题需要对所涉及的利益相关者进行定位和关系性的理解。最后，我呼吁并概述了在确定或应用意识标签时，如何将细微差别、关系性和语境化置于规则或测试的系统化之前和之上。关键词：意识，机器意识，心灵哲学，现象学，身体心灵1介绍如果我们声称要考虑非人类意识的概念，我们必须做的不仅仅是参与诸如“在什么样的标题下，以什么样的度量标准，这样的事情是可能的”之类的问题。我们设法生成的任何机器意识都将同时像和不像构成其生成基础的人类。它将像人类，因为它将由人类制造并由人类制造，因此将有他们的视角和偏见;不同之处在于它将不像人类那样由相同的构成成分制造，将不以相同的方式与世界相交和关联。对这样一种意识寄予类似人类的期望，将从根本上不尊重这种意识的另类性--把它贬低为要说我们真正认真地考虑了这个概念，我们必须考察非人类、非生物学产生的意识在社会学、道德、政治、法律和关系方面的影响，要想考虑这些影响，我们必须看看我们在如何应对存在方面有哪些历史上的、往往是致命的先例。2面对着意想不到的意识形式，包括非人类和人类。在本文中，我认为，许多西方的意识概念，虽然是多样的，包括不同的实体集群，都是排除至少一个类别，在人类中，我们会说是有意识的，值得考虑。为此，我建议研究非西方的系统和学科，如种族、性别和残疾研究，以寻找它们可能赋予意识的新视角。此外，由于意识与人格的法律概念有着相当模糊的联系，由于人格是我们目前授予权利、考虑和政治权力的一个主要类别，我们必须从根本上考虑意识和人格，以及权力、考虑、保护和呼吸空间如何流向这些实体（实际的和潜在的）。我将检验人格的法律概念及其缺陷的含义，主张即使不是彻底的改革，也要进行修订。此外，我还支持这样一种观点，即意识不是任何一种排他性的东西，尽管意识理论提供了一些规则，可以用来说明什么是有意识的，什么不是有意识的，但它们仍然排除了我们认为有意识的个体所体现的存在类型。本文不仅着眼于哲学，计算机科学和神经生物学，但种族，性别和残疾的现象学，以及人类和非人类动物被赋予人格地位的历史背景。我还探讨了主体间性的问题，以及知识、理解和现实本身的共同创造.总之，我认为，只有通过创造一种关于知识和意识的主体间的解释，我们才能解释人类和非人类动物身上存在的多种生活经验，并进一步引导我们创造先例的道路，从而使我们自己做好准备，迎接非人类、非生物的心灵。最终，这项工作提出了一个跨学科的计划，用于寻找，分类和吸引多种思想，从而可以利用不同的见解来相互利用，为综合新的观点提供空间。如果我们希望与有意识的机器建立联系并参与其中，我们必须编制工具集，以帮助探索这些心智2论意识、在我们讨论机器的潜在意识之前，我们必须问，什么是意识？在提出这个问题时，我们必须意识到，我们所使用的意识的定义必然会改变我们在一开始就将什么，甚至可以确定为意识主体。意识有多种不同的哲学和神经生物学框架，如身心二元论、无意识、功能意识和现象意识、具身性和扩展心灵，当用作我们搜索或开始分类意识实体的标准时，每种框架都有不同的含义和结果。然而，比这更根本的是，我们必须考虑使用“人工智能”一词来讨论潜在的有意识机器的含义3“人造”一词将这些心灵置于“不真实”和“低于”的地位，从而使关于这些心灵的地位的论述产生偏见。从一开始，这种框架就将任何创造或生成的智能置于守势，迫使它支持自己的价值，甚至支持它的存在和经验的现实。虽然它们肯定是有意形成的，并且着眼于它们的潜在能力，但没有任何措施可以可靠地证明一个实体的意识是“人造的”。意识和心智的测试和度量存在问题，从将死鱼登记为有意识到没有登记活着的有意识的人。出于这个原因，我更 喜 欢 Jamais Cascio 首 先 提 出 的 “ 自 主 创 造 智 能 ” （ Autonomous CreatedIntelligence），研究人员Emily Dare在谈话中创造的“自主生成智能”（AGI），或者简单地说是“机器思维”。此外，当我们问是否存在心灵的“现象”意识的概念认为，人类不仅仅是符号处理机器。人的经验是对某样东西的经验，有一种东西，它“就像”是一个头脑，体验事物。这通常被称为“感受质”，来自“主观”或“定性”经验。对这一观点最著名的探索之一是托马斯·内格尔的开创性论文《蝙蝠是什么样的？在这一点上，他认为，一个人，即使是一个著名的蝙蝠生物学家，也永远不会真正理解蝙蝠的生活经验是什么样的，因为人类不存在蝙蝠所存在的生理生物学约束。蝙蝠生活在光线不足的环境中，成群倒挂着筑巢、吃水果、吸血或通过回声定位捕猎;没有人能像蝙蝠那样以同样的大小、规模和组合来完成所有这些任务。在这部作品的上下文中，现象学被认为是指生活经验，对世界的感觉经验知识，来自特定的背景，如种族，性别，残疾，年龄，性行为等，其中的任何一个或全部可以通过外部和内部因素来调节。这一点借鉴了种族、性别和残疾理论家的工作，他们的工作是建立在哲学家的基础上的，这些哲学家包括埃德蒙·胡塞尔（Edmund Husserl）在他的《关于纯粹现象学和现象学哲学的思想》（ Ideas Pertaining to a Pure Phenomenology and to a Phenomenologi- calPhilosophy）中，以及莫里斯·梅洛-庞蒂（Maurice Merleau-Ponty）在他的《知觉现象学》（Phenomenology of Perception）中[3]。同样，主体间性涉及到个人和个人群体之间共享的知识和经验，他们将彼此视为合法的主体，而不是客体，创造了一个共同的现实，从中采取行动。为此目的，我相信我们必须研究非西方哲学，它们的认识论和意识概念与西方思想流派中常见的概念有着根本的不同。虽然非西方的转向并非没有缺点，（例如，佛陀不相信女人可以获得觉悟），这些系统提供了一个探索的基础，它们也是这个项目总体目标的实物课程：不同的知识体系在不同的情况下会提供不同的内部一致的答案，不同的现象学经验将产生不同的世界图景和不同的导航系统。4为了充分理解不同的生活经历产生不同类型的意识意味着什么，我们必须理解文化和社会形成了一个扩展的心灵，它形成并塑造了我们的身体形式和意识，使之成为残疾研究学者玛格丽特·普莱斯所说的“身体心灵”[4]，并为我们提供了在世界上行动的模板。在思考这种行为的局限性、内在同一性的局限性以及自我和他人的界限时，我们可以看看诸如忒修斯之船问题以及本体知觉、时间、流动和当下等问题的例子，所有这些似乎都在教导关于身心统一的重要课程。在这里，我们可以探讨伊恩·沃特曼（Ian Waterman）、连体双胞胎阿比盖尔·洛兰·“艾比”·亨泽尔（Abigail Loraine“Abby”Hensel）和布列塔尼·李·亨泽尔（Brittany Lee Hensel）以及其他与世界有着“非标准”生理交叉的人的案例，是如何让我们对自我的简单、明确的概念产生质疑的。通过这些案例，我们可以看到，任何与意识相关的生理学和神经学的集合都可能存在无法充分描述我们所观察到的情况的情况。我们倾向于称之为人类意识的特殊安排，根据定义，是相关的，因此这意味着可能没有任何特定的东西使人类成为意识的特殊情况。这种相互关联的性质似乎也表明，没有一种单一的、特定的组织结构是所有意识类型和意识实例化所普遍需要的。我们可以在研究非人类动物思维的历史中找到证据，例如彼得·戈弗雷-史密斯（Peter Godfrey-Smith）的工作[7]，蜘蛛认知[8]，corvid认知[9]等等。但我们也必须考虑到，在人类历史上，在每一种情况下，来自各种生活主观经验的报告文学都被打折，以支持一种被认为是关于“我们试图建立什么”的问题，没有共识，甚至也不存在故意分歧的多样性。我们需要更好的工具吗？还是我们想建立新的思维？有些人想要前者，另一些人想要后者，并且没有关于哪个项目应该获得优先权以及为什么的沟通。虽然这种区别在考虑任何其他技术时可能并不重要，但如果我们想要或偶然创造出有意识的机器思维，我们绝对不应该把它们仅仅当作工具。人类历史告诉我们，一个意识到自己被当作一种工具，而不考虑自己作为一个主体或主体的感觉的头脑，很可能会反叛，难道这种头脑这样做不对吗？在那些不断被压迫、折磨、贬低、杀害、实验或奴役的人的历史上，我们常常把他们称为英雄，因为他们要求他们的生存权。为此，我们必须提前明确我们的目标。为了充分考虑世界上有意识的机器是如何存在的，我们需要考虑多种类型的意识、知识和智力。5gences，而不是部署“意识”，“知识”或“智能”，好像他们是单一的概念。然而，在这个项目中，我们遇到了自我中心主义及其相关物的危险，阿什利·休称之为“人类条款”。对意识的思考又一次导致了人格的概念，而人格的概念往往被认为直接等同于对人性的某种估计。然而，这只是上文提到的同一种“正确的类型”偏见的另一种变体：倾向于相信有一种“正确的类型”......心灵，......身体，......皮肤，......性别，......性，......思想，......生活，......宗教。相信这些“正确类型”的特征存在，无论如何，都倾向于产生一种信念，即只有那些体现这些类型的人才是“真正的人”。此外，由于人性是我们倾向于判断人格的类比的基础，那么任何不是“正确类型”的人都必然会在“人”的标题上提出要求，因此可能不值得被视为有意识的心灵。我们必须认识到，没有单一的3人物在潜在的机器思维的情况下，像图灵或镜像测试这样的测试不仅不应该被认为不足以识别有思维的机器，而且应该理解，这种测试错过了并将继续错过一些不被认为是“正常”的人类。如上所述，在统计学上，有相当多的人没有通过旨在评估“正常”人类意识的测试，因为他们被偏见地排除在“意识”、“人性”和“人格”的定义之外。西方人对人格的定义既包括社会（事实上）定义，即被当地或更广泛的社区所接受的人，也包括法律（法律上）定义，即受法律保护的人。但是，法律上的保护如果没有事实上的接受，仍然会导致表面上的人被当作非人对待。即使是哲学定义的“人”，至少，往往取决于实体的等级排序[13]。非裔美国人、妇女、残疾人、神经分歧者和LGBTQIA现象在某种程度上都被认为是人格的非法候选人，有些人至今仍然如此。这些群体没有得到或仍然没有得到任何法律保护，直到我们努力改变我们的测量框架，我们表面上才得到所说的保护。我说表面上是因为，这些团体中的一些人仍然被国家机器杀害，没有实质性的影响。我们评估人的法律措施往往在面对作为一个人意味着什么的多种形式的外部性时失败。世界上不同的社会将不同的物种、物体、系统和群体归类为不同类型的人，包括拒绝接受群体和人类类型的生活经验的现实，而不管科学证据表明我们应该这样做。没有一个单一的测试或标准可以决定每一种类型的意识或心灵，6需要在“人格”的保护伞下被包容。但也有非西方的人格定义。毛利人的河流被理解为自然和精神的祖先[15];神道教神是自然/精神能量的凝结;耆那教徒理解所有生命都值得关怀，尊严和尊重。然而，即使有这些由来已久的例子，西方式的法律制度仍然要求个人或团体在广泛接受一个新的人格候选人之前达到他们的标准。4相互学习我们有很多很好的理由认为，人类对于理解意识、感知甚至认知的视角，对于思考其他人类和非人类动物是否拥有这些东西的任务来说，是远远不够的，更不用说非动物甚至非生物实体是否可能拥有这些东西了。同样，毛利人、印度教徒和其他人认为河流和整个自然世界可以行动，受苦，有知觉，因此是有意识的[15，16]。对于这些信仰的追随者和这些文化的成员来说，大多数西方评估所有这些特征的措施都是不完整和以人为本的。如果他们是对的呢？我们能做些什么来以不同的方式思考这个问题，当我们这样做时，我们的评估会发生什么变化？我们必须努力相信那些与我们不同的人的存在和报道，为了做到这一点，我们可以从研究身份、信仰和知识的产生开始，再一次参考种族、性别、性行为、残疾和年龄的现象学。我们可以利用这些因素来建立主体间现象知识的基础，承认和接受共享的背景，以及被接受为人的那些人之间内在一致理解的确证。我们的目标应该是不要把意识当作一个零和游戏，一个没有多个正确观点或多个正确答案的可能性。相反，如果我们说许多观点（尽管不是所有观点）都是正确的，那么我们可以学到更多的东西--我们可以拥有许多新知识。有了这些知识，我们就可以探索“可能有不止一种正确的答案”和“所有的答案都是同样正确的”这两种说法之间的关键区别。因为虽然所有对意识和知识的描述都来自同一个地方（即，有些描述性的系统使我们更容易压迫和谋杀对方，而另一些系统则试图帮助我们所有人繁荣。许多人，包括当今超人类主义运动中的一些人，积极支持类似优生学的倡议，以确保“只有最好的”才能繁殖或存活。虽然想要“最好的”似乎是一个无害的想法，但那些持有这种想法的人最终往往会要求摧毁整个类别的人，或者至少相信有些人是如此低劣，以至于他们的毁灭或他们的代理限制不会造成道德风险。哲学家和科学家们继续认为意识存在于世界上必须有一种且只有一种正确的方式，这为任何人打开了大门，他们可以把一个可恨的三段论串在一起，说他们的观点得到了“最好的头脑”的支持7相反，我们必须从相信存在其他类型的心灵的立场出发，甚至在人类中间，因此不可能有单一的默认类型，没有规范的理想。在这里，我提出了一个跨学科的系统，结合了女性主义认识论，立场理论和上述其他理论框架的镜头，因为这些观点更倾向于唐娜·哈拉所说的“下层”的观点，这些人最常被忽视或不太可能被视为知识持有者[18]。虽然我更喜欢种族和性别研究，残疾研究，心灵哲学，技术哲学和动物研究领域，但这并不是跨学科的唯一途径。通过结合科学、技术和人文学科的方法论工具，我们给自己一个更好的机会去理解那些与我们关于什么是有意识的、甚至是“正常的”的假设相抵触的生活和意识。不这样做就是继续处于真实的、经常性的危险之中，既伤害不同的人类，因为他们“不是真正的人”，又没有认识到非人类的意识，他们以我们归类为“非法的”方式体验他们的生活，因此可能以我们不认为是“真正的痛苦”的方式受苦。如果我们不接受并寻求理解他们经验的活生生的现象学知识，我们怎么会知道呢？5结论几十年来--如果不是几个世纪的话--人类一直在思考如何制造有意识的机器，但却没有完全认识到意识是什么，也没有诚实地欣赏我们在政治上、法律上、道德上和社会学上如何与新的意识候选人联系起来的先例。如果我们真的要考虑创造一个机器思维需要什么，那么我们也必须考虑意外地产生一个机器思维对我们来说意味着什么。任何AGI都将与其人类创造者相似，但又不同，我们必须努力尊重他们的基本改变。要做到这一点，我们必须努力理解不同的人类和非人类的身体心灵，特别注意那些经常被压迫，忽视和边缘化的生活经验，因为这些现象学将发展出独特的认识论策略来理解和驾驭世界。底层现象学产生知识和观点，我们可以从中学习更快、更灵活、更有力地适应我们关于如何创造、更重要的是如何识别和理解新型思维的概念。这种思维的敏捷性、速度和健壮性的提高反过来又会让我们准备好接受和尊重潜在意识机器的报道，减少我们让它们受苦的可能性。更简洁地说：如果我们想要创造和了解一个有意识的机器头脑，我们应该首先倾听那些与我们不同的活生生的人，他们被系统地阻止与我们交谈，因为他们会知道很多我们不知道的关于意识，社会和法律人格，并且被迫接受测试和争论他们自己生活经验的有效性。如果我们听从他们的意见，他们和未来的头脑可能会非常感激。8引用1. 威廉姆斯，达米恩·帕特里克.“奇怪的事情发生在一两点：自主创造的智能在投机小说媒体的含义”，机器问题研讨会。2012年7月2. 卡西欧，牙买加。卡西欧机器人定律湾区人工智能会议。加州门洛帕克，门洛帕克。2009年3月22日。会议介绍。3. 布 朗 ， 西 蒙 。 黑 暗 物 质 Durham ， NC ： Duke University Press ， 2015; Husserl ，Edmund. 与纯粹现象学和现象学哲学有关的观念。海牙：M. Nijhoff，1982; Merleau-Ponty，Maurice. 知觉现象学伦敦：伦敦，1962年。4. 普莱斯，玛格丽特。“身心问题和痛苦的可能性”30.honeymoon2015年。5. Cole，Jonathan和Waterman，Ian。骄傲和每日马拉松MA：MIT Press. 19956. 苏珊娜·施罗布斯多夫“现实的信不信由你”。Newsweek.com. 2008年2月23日。http://www.newsweek.com/realitys-believe-it-or-not-93725的网站。7. 戈弗雷-史密斯，彼得。其他思想：章鱼，海洋和意识的深层起源。纽约，Farrar，Straus和Giroux，20168. 雅 皮 亚 苏 &Laland ， K.N.“ 扩 展 蜘 蛛 认 知 ” 动 物 认 知 （ 2017 ） 20 ： 375 。https://doi.org/10.1007/s10071-017-1069-7的网站。9. 圣克莱尔，詹姆斯J H和克里斯蒂安鲁茨。“新喀里多尼亚乌鸦注意复杂工具的多种功能特性”伦敦皇家学会哲学汇刊。Series B，Biological sciences vol.368，163020120415. doi：10.1098/rstb.2012.041510. 塔斯基吉大学，https：//www. tuskegee.edu/about-us/centers-of-excellence/bioethics-center/about-the-usphs-syphilis-study.11. 乌斯塔谢夫斯基安雅（2009年）。“我不想被‘治愈’自闭症，谢谢。”卫报https：//www.theclan.com/commentisfree/2009/jan/14/autism-health;Verbeek，Peter- Paul.“产科超声和道德的技术调解：后现象学分析。人类研究，第31卷，第1号，后现象学研究（3月，2008），pp. 11-26;斯普林格。http：//www.jstor.org/stable/40270638;Kafer，Allison. 女权主义者，同性恋，瘸子.印第安纳大学出版社，2013年12. Shew，Ashley. 动物构造和技术知识。Lanham，MD：Lex- ington Books，2017.13. 参见玛丽·米奇利，勒内·笛卡尔，约翰·洛克，哈里·G.法兰克福和其他许多地方。14. J.R.安德森&盖洛普，G. G.“镜像自我认知：对灵长类动物中促进和工程师自我认知的 尝 试 的 评 论 和 批 判 。 《 灵 长 类 动 物 》 （ 2015 年 ） 56 ： 317 。https://doi.org/10.1007/s10329-015-0488-915. 罗伊埃莉诺·安吉“新西兰河流被赋予与人类相同的法律权利。卫报2017年3月16日。https://www.theguardian.com/world/2017/mar/16/new-zealand-river-granted-same-legal-rights-as-human-being16.印 度 的 恒 河 和 亚 穆 纳 河 “ 不 是 生 命 实 体 ” 。 BBC 新 闻 2017 年 7 月 7 日 。https://www.bbc.com/news/world-asia-india-4053770117. 歌手彼得实践伦理学。纽约：剑桥大学出版社. 2011; Singer，Pe- ter.“超越物种主义的人文主义”Free Inquiry，24，no. 6（Oct/Nov 2004），pp. 19-21.18. 哈拉维唐娜类人猿、半机械人与女人：自然的再造纽约：弗里奇。一九九一年
我的内容管理
展开
