构建有意识的机器：评估生物和人工系统的

要构建有意识的机器，请关注一般智能：评估生物和人工系统亨利·舍夫林[0000-0002-7753-3281]剑桥大学Leverhulme智能未来中心henry. gmail.com1介绍意识向我们提出了许多不同的解释性挑战。最基本的，有时被称为另一个重要的问题涉及区分有意识和无意识状态的认知机制[2]。第三个争论，也是本研究的焦点，是关于我们如何确定一个给定的生物或人工媒介是否有意识。在这三个问题中，后一个问题具有特别的实践和伦理意义：我们对待动物的态度部分取决于我们是否认为它们具有意识经验的能力。同样，虽然很少有人会赞同当前的人工系统是有意识的，但随着它们的能力不断提高，越来越接近动物和人类的能力，有关机器意识的伦理和法律问题可能会越来越突出。在本文中，我将论证，一个评估动物和机器意识的有用框架可以来自一般智能的概念。我在第二节开始时指出了我们的智力和意识概念之间的重要联系。在第3节中，我认为，在我们对意识的评估中，一般智能而不是在第4节中，我认为，目前的人工系统，不像许多非人类动物，目前未能表现出任何显着程度的一般智能的这些特征因此，我认为我们有理由认为人工意识仍然是一个遥远的目标。最后，在第5节中，我将简要介绍一个框架所面临的一些挑战，该框架将一般智力视为我们意识的最佳证据。在继续讨论之前，先简要地解释一下意识和智力的概念，这将是很有帮助的。简而言之，我用意识这个术语来指一种主观经验的能力。对于有意识的生物来说，有一些东西就像是内格尔意义上的经验：颜色可能以某种方式出现，痛苦可能以某种方式感受到它们。我将广泛地使用智能一词来指系统利用信息处理以高效和有效的方式实现其目标的能力。2方式请注意，我把意识看作是一个前理论概念，我们掌握了它的第一手资料。相比之下，智力是一个有待修正的理论概念。2意识和智力我们都知道哪些动物有意识。我猜想，我们大多数人会认为海豚、黑猩猩和狗经历主观体验是毫无疑问的同样，很少有人认真对待诸如恒温器、细菌或植物等极其简单的系统是有意识的这一观点然而，在这两个极端之间，存在着相当大的分歧。例如，关于鱼类[7]、头足类[8]和昆虫[9]的意识存在相当大的争议。这种直觉上的不一致反映在不同司法管辖区对不同物种的法律保护的不同性质上因此，虽然1986年的英国动物（科学程序）法将保护范围扩大到所有脊椎动物以及章鱼，但相应的美国立法（7 U.S.C.第2131-2156条）仅对温血动物作出规定。类似的争议也出现在人类与昏迷和持续植物人状态的患者以及胎儿之间，并且很可能及时出现在机器智能中。对于这些相互冲突的直觉，一个诱人的反应可能是完全无视它们的价值，而采用一种纯粹科学的意识标准然而，我认为意识是一个前理论概念，与我们的伦理道德有着深刻的联系，不能为了科学的权宜之计而简单地例如，虽然我们可以简单地规定，我们将把意识定义为对外部刺激的敏感性或对更高级认知的能力，但这些定义并不能满足意识理论所要求的目的。面对诸如鱼是否感觉到疼痛，或者处于持续性植物状态的患者是否有经验等问题，我们希望知道他们是否真的有主观经验，而不仅仅是他们是否对外部刺激敏感或是否有完整的元认知能力。因此，任何一种意识理论，只要能达到我们所希望达到的目的，当然，这并不是说我们目前的态度不会受到革命的影响。在给出意识理论的过程中，我们的一个重要任务是识别出那些没有根据的偏见和假设，它们制约着我们关于哪些动物有意识的直觉，比如我们倾向于将其归因于有魅力的巨型动物。此外，在确定并整理了我们关于意识本质的核心前理论承诺之后，我们可能会发现，满足这些承诺的系统比我们先前假设的要多得多（或少得多）。有鉴于此，我认为，反思意识的一个重要出发点如上所述，我们毫不犹豫地将意识赋予黑猩猩、海豚和狗等生物。这些动物都非常聪明，这肯定不是巧合同样，那些给我们留下非常差的意识能力的系统（在伯奇的意义上，[10]）往往在认知上非常简单，能够3小聪明的行为。一个有点类似的故事可以告诉这两个极点之间的中间系统，如下所示（图。①的人。Fig. 1. 智力与我们对不同认知主体有意识的概率的前理论判断之间关系的示意图，从细菌的极低概率到成年人、新生儿和海豚的近乎确定性。我们有理由认为，智力和我们对意识的评估之间的这种明显联系并不是一种毫无意义的相关性。当一个物种的智能行为出现新的证据时，它可能会增加我们对该物种有意识的信心，并反过来反映在法律保护中;例如，欧洲指令2010/63/EU（5）中决定给予许多头足类动物权利，这是因为有证据表明它们拥有更高的大脑区域和对疼痛的复杂反应。同样，越来越多的科学共识认为，一些持续性植物人状态的患者是有意识的，这是因为发现一些PVS患者在大脑扫描范例中保留了准确回答是或否问题的能力[12]。当然，在将意识与智力联系起来时，有许多棘手的概念问题需要争论，其中一些将占据本文其余部分的大部分时间。有一个重要的问题值得立即提出来，那就是我们是否应该把意识看作是一种离散的现象，或者是否可以谈论智能系统中的然而，这是一个在哲学和科学上有相当大争议的问题，在下文中将被搁置一边。3区分一般智能和专业智能尽管对智能和意识的判断之间存在联系，但很少有人会认为现有的机器智能是强意识的候选者，尽管它们在许多看似苛刻的任务上表现令人印象深刻有很多好的和坏的原因可以解释为什么会出现这种情况。然而，正如我现在要说的，一个有充分理由的动机可能来自于4专业和一般智能。简而言之，我认为，就意识和智力之间的重要联系而言，重要的是一般智力。然而，首先有必要至少概述一下我对这些术语的理解。专业化智能相对容易掌握，可以用前面给出的智能定义来解释，即在追求某些狭义目标时有效和高效地使用信息处理的能力一般的智力比较困难。人工智能中的通用性概念在McCarthy的一篇重要论文中进行了讨论[13]，可以广泛地理解为“对所有类型的问题使用相同的目标寻求机制，只改变特定的结果”的能力。作为人类，我们喜欢认为自己具有高度的一般智力，这反映在我们复杂的社会和精心制作的文化产品中。然而，根据麦卡锡然而，我们需要一个更系统的框架来评估不同系统中的一般智力。考虑到这一点，我认为在我们认为是普遍智能的系统中通常会发现简而言之，这些是鲁棒性、灵活性和整个系统集成，具体如下。鲁棒性：在干扰下完成任务的能力。具有高通用智能的系统通常是健壮的（抵抗失败）和弹性的（从失败中恢复）。灵活性：跨任务转移知识的能力。一般来说，智能系统可以很容易地将现有的技能/信息应用到新的领域。全系统整合：生物整合并有效平衡来自不同系统的输入的能力，包括感知，记忆和驱动力。作为一般智能系统特征的清单，该列表是高度初步的，并且可能被证明是不完整的或具有不必要的组件。例如，请注意，稳健性和灵活性之间存在着明显的联系：如果一个系统也表现出高度的灵活性，那么它在处理其目标的意外障碍时可能会更加稳健同样，如果一个系统能够整合所有的信息源，以实现智能生产，那么它可能会更加灵活。尽管如此，我还是认为，这种对一般智力特征的初步框架对于评估不同系统中的一般智力具有相当大的然而，就目前的目的而言，更重要的是，所有这些特征都具有前理论的和科学的吸引力，可以作为评估创造物是否有意识的参数为了说明这一点，假设我们已经在一个物种中发现了一些似乎非常聪明的行为，而这个物种以前并不被认为是一个很好的意识候选者;假设我们在双壳类软体动物中发现了复杂工具使用的证据Prima5表面上，这将使生物成为一个更强的意识候选人。然而，如果发现这种行为未能满足上述一般智力的一个维度，这种印象就会被破坏。因此，如果我们发现这种行为是不健壮的，并且在极端特定的条件之外失败，我们可能会自然地认为它的发生依赖于简单的硬连线机制，而不是复杂认知的标志;有争议的Sphex黄蜂案例可能是这样的例子。如果行为被证明是完全不灵活的，并且只能用于一个非常狭窄的目的，我们可能会得出类似的结论;在这种情况下，行为可能最好通过一个进化磨练的本能来解释例如，考虑一下许多昆虫复杂但高度定型的筑巢行为。最后，如果神经科学的研究表明，这种行为不是通过中枢神经系统完成的，而是通过一些完全不整合的神经模块完成的，我们就不太可能认为这是生物有意识的好证据上述例子应该可以为以下主张提供一些初步的动机：一般智力被理解为拥有强健、灵活和综合的行为能力，它提供了意识的证据然而，我也要指出，它为许多其他的意识研究方法提供了一个很好的选择如上所述，持续性植物状态患者的意识证据在很大程度上来自他们执行高度灵活任务的能力，即准确回答一系列关于不同个人和事实问题的是或否问题。同样，机器智能和意识的测试，如图灵测试和Winograd模式，测量人工系统最后，请注意，所提出的评估一般智力的模式与当代科学对意识的研究有着一些有希望的联系。例如，强调跨系统整合是许多领先理论（如整合信息理论和全球工作空间理论）的共同点，并且有经验理由认为，许多高度灵活的行为形式（如记忆痕迹条件反射和无意识两步算术）只能在有意识的条件下进行[17]。请注意，我并不是主张把意识等同于一般智能，也不是暗示一般智能是意识产生的机制。前一个目标涉及概念上的困难，最好留给形而上学家，而我认为关于意识机制的问题是对当前建议的补充。相反，我认为一般智力--被4生物和人工系统那么，假设一般智力是意识的一个很好的标志，那么，我们可能会问它如何适用于不同的认知系统。如前所述，许多6动物在这个指标上表现良好大多数动物的行为通常是高度健壮的，在各种各样的环境和气候条件下完成进食、交配和繁殖。虽然很容易找到动物犯愚蠢错误或摔倒的视频例子，但这些事件非常罕见，当它们发生时，它们会让我们感到有趣和惊讶当然，我们应该期望动物具有强大的能力，这有很强的进化原因然而，这并不意味着这一成就在认知方面是容易获得的。同样，动物的行为往往是高度灵活的。即使是简单的生物，如蜜蜂，在远离进化环境的条件下进行新的社会学习和概念获取的能力在乌鸦和灌丛鸦等更聪明的生物中，有很多复杂和适应性因果推理的例子[20]和聪明的缓存行为，这些行为对广泛的环境因素和生理需求敏感[21]。最后，动物体内不同系统高度整合的例子很多，从简单的现象（如使用运动和前庭线索来区分内源性和外源性的感觉输入变化），到鱼类、大鼠和一些甲壳类动物参与“动机权衡”的能力这是一个高度浓缩的审查只是一些方式，动物显示令人印象深刻的形式的一般智能，但它至少提供了一个有用的点，com-consciousness检查状态的一般智能目前的人工系统。任何熟悉人工系统当前能力的人都可以证明，这是相当令人沮丧的。在大多数领域，人工智能的行为是不健壮的：机器智能在高度监管的训练环境之外与任务作斗争，并且容易出现一堆小错误。对抗性例子的问题就是一个生动的例子：机器视觉系统在被输入数据的巧妙扰动愚弄时仍然容易犯下惊人的错误（见下图2）[23]。‘Dog’图二. 一个对抗性例子的演示，它欺骗计算机视觉系统将狗分类为鸵鸟[24]。同样，目前大多数人工智能都非常不灵活。虽然在迁移学习任务方面取得了重要进展在尽量减少灾难性遗忘的影响方面，7但同样，与非人类动物相比，人工系统在不损失先验知识的情况下进行流体任务切换的能力明显有限最后，大多数机器智能系统依赖于对大型训练集的长期接触，这与生物智能形成了鲜明对比（想想新生小鹿在10分钟后学会站立，仅用7小时就学会平稳行走）。大多数人工智能同样无法满足一般智能的集成组件，原因很简单，它们是完全专业化的机器。即使在执行多个功能的系统中，这通常也是通过高度模块化的设计来完成的，其中几乎没有跨子系统的处理的真正集成。可以说，在动物中发现的这种整合需要一种集中的能力，用于对世界和其中丰富的细节进行建模5反对在结束之前，值得简要地提一下对这一方法的三个重要反对意见首先，人们可能会质疑一般智力是否真的是一个可靠的科学概念[26]。如果我们所谓的一般智力甚至在多维框架中也不能真正量化，而最好被认为是一个松散的然而，这是一个突出的科学争论的问题，我认为，一般智力可以作为一个有用的启发评估意识，即使它无法跟踪任何统一的认知机制。第二，可能有人会反对，认为没有明确的心理机制，如注意力、元认知或工作记忆，就没有必要发展意识的测量。我对这种说法的回应是，我认为目前的方法是对试图识别意识的细粒度认知结构的补充。它也与我的方法相一致，正如许多人所争论的那样，没有这样的结构可以找到[27]。第三，上述评估一般智力和意识的三重模式的一个主要担忧是，只有当我们能够开发出测量鲁棒性、灵活性和整个系统整合的原则性方法时，它才具有实用价值。这可能是一项极具挑战性的任务。例如，虽然我们可能认为人类的算术能力是高度灵活的，但我们中很少有人能在头脑中计算因此，如何评估和分配系统的总体柔性和不同领域的柔性的权重，仍然是一个重要的突出挑战。6结论我在本文中的主要主张有三个方面。首先，我已经论证了意识和智力的概念之间存在着重要的联系，特别是一般智力在我们对意识的评估中具有重要的证据作用。第二，我认为一般智力可以帮助8概念化为跨越三个维度，包括鲁棒性、通用性和整个系统集成。第三，我声称，虽然许多动物在这些指标上表现在某些人看来，这可能是一个悲观的结论。然而，如果我在这篇论文中的论点是有根据的，我会建议它为那些有兴趣建造有意识机器的人提供重要的指导，并为目标提供明确的标准：如果你想要一台有意识的机器，专注于建造一台像乌鸦一样聪明的机器。引用1. 作者 ：David J. （1995 年） 。面对意 识的问题Journal of Consciousness Studies 2（3）：200-19.2. Block，Ned.比较意识的主要理论。In Michael Gazzaniga（ed.），认知神经科学IV.pp. 1111-11233. Singer，Peter.所有动物都是平等的。在Tom Regan Peter Singer（编辑）中，动物权利与人类义务北京：清华大学出版社. pp. 215-2264. Nagel，Thomas.当蝙蝠是什么感觉？Philosophical Review 83（October）：435- 50.5. Chalmers，David J.有意识的心灵：寻找一个基本理论。牛津大学出版社.6. Tononi，G.，&科赫角（2015年）。意识：这里，那里，到处都是？英国皇家学会哲学会刊B：生物科学，370（1668）。7. 基，B。（2014年）。鱼不会感觉到疼痛及其对理解现象意识的影响。生物学哲学2015年3月，第30卷，第2期，第1498. Godfrey-Smith，P.（2017）.其他的思想：章鱼和智能生命的进化。威廉·柯林斯9. Barron，A. B、&克莱因角（2016年）。昆虫能告诉我们意识的起源。Proceedings ofthe National Academy of Sciences Proc Natl Acad Sci USA，113（18），4900-490810. Birch，Jonathan.动物的感知力和推理原则。动物敏感性2：16（1）。11. 2005年10月27日，中国农业科学院农业科学研究所，中国农业科学院农业科学研究所，中国农业科学院农业科学研究所在研究中对CephRes，FELASA和Boyd集团的倡议的基础上达成的共识。实验动物。2015; 49（2 suppl）：1-90.12.蒙蒂，M.M.，Owen，A.M.（2010）.大脑中的行为：使用功能性神经成像评估严重脑损伤后的残余认知和意识，《心理生理学杂志》，24（2）：76-82。13. McCarthy，J. 1990.人工智能的基本原理在弗吉尼亚州的利夫希茨，ed.，形式化的常识。Ablex 226-23614. Dennett，D.（1973年）。机制和责任。于T. Honderich（编辑），关于行动自由的论文。伦敦：劳特利奇。15. Searle ， J.R. （ 1980 年 ） 。 思 想 ， 大 脑 和 程 序 。 Behavioral and Brain Sciences 3（3）：417- 57.916. Sharma，A.，Ha Vo，N.，Aditya，S.，和Baral，C.“015）。迈向解决winograd架构挑战-建立并使用语意解析器与知识搜寻模组。在IJCAI，第1319-1325页17. Dehaene，S.（2014年）。意识与大脑：解读大脑如何编码我们的思想。北京：清华大学出版社.18. Alem，S.，佩里，C.J.，Zhu，X.，卢科拉岛，英格拉姆·T Søvik，E.，奇特卡湖联想机制允许昆虫的社会学习和文化传播2016; PLoS Biol 14（10）.19. Avies-Weber，A.，Dyer，A. G.，&朱尔法湾（2010年）。昆虫对上下关系的概念化。英国皇家学会会刊B：生物科学，278（1707），898-905。20. Jelbert SA，Taylor AH，Cheke LG，Clayton NS，Gray RD（2014）.“使用伊索寓言范式调查新喀里多尼亚乌鸦对水置换的因果理解”。PLoS ONE. 9：e92895。doi：10.1371/journal.pone.009289521. Clayton N.S，Bussey T.J，Dickinson A.动物能回忆过去并计划未来吗？Nat. Rev.Neurosci. 2003 a;4：685-691.22. 动机权衡23. Kurakin，A.，古德费洛岛，和Bengio，S.物理世界中的对抗性例子。arXiv预印本arXiv：1607.02533（2016）24. Scharr，P.（2018）.无人军队：自主武器与战争的未来Norton.25. Lake，B.M.，Ullman，T. D.，Tenenbaum，J.B.，&Gershman，S.J.（2016）.打造像人一样学习和思考的机器。Behavioral and Brain Sciences，vol. 40，2016.26. 塞尔皮科湾（2018年）。什么样的智能？Philosophical Psychology，31（2），232-252.电话：0755 - 8888888传真：0755 - 888888827. 作者：Daniel C.（1991年）。意识解释。企鹅出版社