人工意识的重要性及其对人工智能的影响

为什么人工意识很重要马修·克罗斯比[0000−0001−7606−7533]伦敦帝国理工学院Leverhulme未来智能m.crosby@ imperial.ac.uk抽象。 在本文中，我概述了人工意识研究的情况，虽然越来越受欢迎，但仍然不如邻近领域的工作那么有影响力。我认为，围绕创造人工意识的伦理问题是重要的，即使是在不久的将来朝着通用智能的渐进式发展。我还举了一些例子，说明人工智能意识如何提供独特的工具和方法，从形而上学和实践的角度来测试和思考意识理论。关键词：人工意识·现象意识·伦理学1介绍虽然近年来意识研究进展迅速，但科学共识仍然遥不可及。与此同时，人工智能取得了重大进展，在广泛的任务中达到了超人的表现。人类不再是最好的智力竞赛选手[8]，最好的围棋选手[18]，甚至在某些方面，最好的医生[7]。这种快速的扩张，以及博斯特罗姆然而，即使有了最新的进展，在适应环境的意外变化或通常与意识相关的各种行为方面，目前还没有最先进的人工智能此外，当我们将意识归因于动物时，人们普遍认为，类似人类的智能是不必要的。第一个有意识的人工智能系统不太可能超过人类的一般智力，甚至不可能超过许多通常被认为有意识的动物。理解这种最小人工意识系统提出了重要的伦理问题，也是提高我们对人工智能和我们自己意识的理解的机会虽然人工意识的工作量一直在增长，但该领域尚未像意识或AI的其他领域那样有影响力[13]第10段。本文介绍了在没有超级智能的情况下研究人工意识的重要性和及时性。它在伦理上是相关的，它可以教我们关于意识的知识，它可以帮助我们在人工智能领域朝着通用智能的方向发展。Leverhulme未来智能中心的支持2克罗斯比2现象意识为了本文的目的，我将把讨论限于现象意识。没有商定的定义。为了我们的目的，我通过例子参考了Schwitzgebel正面的例子包括你当前对这段文字的视觉体验、对周围声音的听觉体验、你选择在脑海中召唤的任何意象，以及感受到的情感。负面的例子包括你目前对世界另一端的视觉体验，目前无法回忆起的知识（例如巴黎是法国的首都），以及左膝毛细血管中的血液流动。于是，现象意识被定义为最简单的东西，它是所有正面例子所共有的，而在所有负面例子中是缺失的。虽然在技术上有无限多的概念（和概念的组合）符合这一定义，但预期的解释被认为是足够清楚的。有许多针对机器意识的测试，其中大多数忽略了现象学成分，而是专注于更可测量的相关方面[13]。然而，忽略现象学的成分就等于忽略了意识之所以有趣的原因，以及它与一般智力测量方法的区别。的问题物理系统究竟如何产生现象经验，这是为了本文的目的，我将假设意识意味着现象意识，并维持通常持有的假设，即意识附随于纯粹的物理过程，并且有许多物理基质可以实现它。3人工意识的案例本节分为两部分。第一部分是关于将潜在的意识实体引入世界的伦理解释。我认为，讨论应该集中在近期的可能性最小的意识。第二部分给出了人工智能研究所提供的关于意识的独特方法和见解的例子。3.1伦理案例对于哪些动物有意识，没有明确的答案在天平的一端，泛精神论者将意识归因于所有动物（以及其他动物）[4]。在另一个极端，一些高阶思想理论家否认大多数非人类动物的意识，尽管即使在这里也有很大的分歧。大多数观点都介于两者之间，声称像人类一样的更聪明的动物是有意识的，而其他“较小”的动物则没有。例如，Pe- ter Godfrey-Smith建议哺乳动物、鸟类、鱿鱼和章鱼作为候选动物，而其他软体动物、水母和许多鱼类则不是[9]。根据意识对动物进行分类变得更加困难，因为人们普遍认为，为什么人工意识很重要3存在于一个渐进的规模，从而在每一个动物的基础上的归属比一个简单的'是'或'否'的答案更涉及虽然在意识的归属上存在广泛的分歧，但有一件事是所有上述的共同点：超级智能不是必需的。人类这件事本身就足以证明这一点。大多数理论走得更远，将意识归因于具有基本-甚至在某些情况下，不-智力。外推到人工意识，可能在最低智能人工系统中重建意识。此外，我们很可能会在创造出拥有或超过人类智能的实体之前，创造出最低智能的意识系统。随着人工智能逐步朝着它的目标前进，人工智能意识的问题将在超级智能系统之前很久就出现，至少在生物学意义上是这样。根据生物系统中常见的智能方面来衡量，有史以来第一个有意识的人工系统可能更接近于老鼠而不是超人。梅青格提出了一个思想实验，他认为第一个有意识的人工智能系统会发现自己处于类似于人类婴儿的认知和情感缺陷的情况。这个想法是，如果任何人工智能系统都有意识，那么第一组有意识的实体将是我们所能创造的能力最低的与任何工程项目一样，最初的几次尝试将不如未来的版本那么精简和强大。与我们的意识相比，它们在认知和情感上都有缺陷，这导致了对痛苦的明显担忧。我认为，对于任何有能力承受痛苦的意识实体，伦理考虑的重要性是不可控制的。如果有可能创造受苦的实体，那么他们自然会有道德耐心。真正的问题是，我们是否会有哪怕是最小的人工意识，即使是这样，它是否会是一种具有受苦能力的形式。Sotala等人为值得考虑的问题指定了三个一般规则（解释如下）[21]。他们将这些应用于超级智能的案例，但规则本身也适用于这里：1. 结果必须造成足够的伤害，才值得关注。2. 结果必须有合理的可能性实现。3. 必须有某种方法来减少1。或2.如果可以证明这些条件中只有一个被违反，那么问题就变得不那么紧迫了。然而，对于最低意识人工智能的情况，我认为所有这些都成立。人工智能系统可以被创建或摧毁的规模表明，这个问题“已经够糟糕了”。如果有可能创造一个有意识的人工实体，那么它的人工本质将允许容易复制和复制。许多现代AI算法涉及创建多个实例化，然后在广泛的领域中对其进行测试。这种做法意味着任何创造的人工智能意识可能会存在很多次，从而增加了事件的伦理意义。4克罗斯比即使是最低限度的人工意识是否也有合理的可能性被实现，这仍然是一个有待讨论的问题。然而，有很多理由相信这会在某个时候发生，人工智能研究正在朝着这个方向取得进展。考虑到生物意识的普遍存在和认知启发AI的进步[10，11]，排除这种可能性还为时过早。人工意识的可能性，尤指偶然或不知情的。最后，必须有某种方法来减少造成伤害的可能性或造成伤害的数量。随着我们对意识理解的增长，我们影响意识创造的能力也在增长。如果我们确实对哪些系统是有意识的有了更好的理解，在极端的情况下，这可以用来避免首先创建这样的系统。人工意识研究合理地满足了所有三个标准，但更重要的是，这些标准对于塑造最重要的研究领域是有用的。在伦理上最令人憎恶的情况是，人工意识的研究落后于人工智能的进步，我们只是太晚才发现我们一直在创造有意识的、痛苦的人工智能系统。这使得该主题不仅具有伦理相关性，而且具有紧迫性。我们对意识的理解必须跟上并应用于人工智能的发展。3.2从AI除了伦理方面的考虑，人工智能在教导我们意识方面具有独特的地位。它可以成为理论的试验台，也可以为长期存在的形而上学问题提供见解。Roomba测试从考虑适用于AI系统的意识理论的一个用途是，它们可以通过最小的实例进行评估。任何独立于基底的意识理论都必须回答其在人工智能中最简单的实现，而且这种实现通常会提供对理论中什么是有效的以及什么是缺失的我称之为Roomba测试，因为这个众所周知的设备在关于机器意识的公共话语中具有特色[20]，因为它满足了与意识相关的一些基本属性;自主性和世界的表征。简单来说，这个测试可以只是一个思想实验，它可以作为对意识理论的合理性检查然而，实际的实现提供了更多的反馈，然后可以进一步与意识的首选措施进行比较。对Roomba例子的一种回应是咬紧牙关，就像IIT一样[22]当面对类似的问题时，与Roomba不同，系统将具有非零意识（即Φ >0）[17]。该理论预测，一小组相互连接的逻辑门是有意识的，并且在面对这样一个系统时，坚持这一主张。另一种反应是用这样的例子来提炼理论，并朝着更好的理解迈进，这是辩证的方法在提出激进塑性理论时[6]。如果不存在一个人工系统的最简单的实例，那么这就是对理论普遍性的批判。无论哪种方式，人工智能都为评估意识理论的主张提供了重要工具。为什么人工意识很重要5现代人工智能研究的大多数使用模拟实验室进行测试，因为它们比真实世界或静态数据集有许多优势。模拟环境可以被限制为测试正在搜索的问题，噪声可以被控制，它们可以根据需要被简化，错误算法可以被换入和换出，并且通常在模拟环境本身的单独线程中运行有了所有这些优点，以及最近这种环境的普及和改进，将来可能会有越来越多的系统以这种方式进行测试真实的二元论思想实验（最初来自查默斯[3]）要求你想象自己是一个人造实体，存在于一个丰富的模拟环境中。此外，你碰巧是有意识的，甚至有能力问（和解决）关于你的意识的问题通过探索和探测模拟世界，密切关注它的反应和运动，你已经对模拟世界有了很多了解所有这些信息都集成到您对模拟环境的体验中。然而，你突然想到，你的想法和经历似乎并不源于这个世界。他们看起来（比较）空灵。它们似乎来自其他地方，也许它们是你（你不知道）模拟环境中其他一切事物的某种次要形而上学类型。一个被模拟的实体可能会自然地成为一个本体论的二元论者。无论人造实体如何努力寻找在其世界内部形成其经验的底层基质，它永远无法找到它们。在我们的世界里，它相当于一个在计算机中运行的大脑，据推测，它产生了意识体验，从它的角度来看，这些体验存在于它所知道的唯一世界，即模拟世界。它成为一个二元论者似乎是合理的，从它的模拟世界的角度来看，这样做是正确的。这个思想实验，以及其他可以被创造出来的通过考虑模拟环境的独特属性，告诉我们关于我们自己还不清楚的情况这当然并不意味着我们都应该是二元论者，但是，正如查默斯所说，也许重要的一点是，人工智能意识为推进我们的理解提供了一些独特的视角，并且随着我们更接近实现复杂的模拟世界并能够实现更复杂的意识理论，它将继续在这方面取得成果。4结论总之，有很多理由可以期待人工智能将在我们未来对意识的理解中发挥重要作用。此外，理解人工意识是一个道德相关的问题，其规模只受到我们不断增加的计算资源的限制。在未来，意识科学的进步将被转化并融入我们对人工意识的理解中，这将是非常重要的。同样重要的是，6克罗斯比在另一个方向，人工智能的进步被翻译回意识科学，尤其是为了确保如果我们真的创造了人工意识，我们至少对我们在做什么有一些想法。引用1. 阿拉巴莱斯河Leavirma，A.，Sanchis，A.：Consscale：一个实用的规模，用于衡量人工智能体的意识水平。Journal of Consciousness Studies17（3-4），1312. Bostrom，N.：超级智能：路径，危险，战略。牛津大学出版社（2014）3. Chalmers，D.：二元论是如何正确的。http：//consc.net/notes/dualism.html，访问时间：2018-11-014. Chalmers，D.：泛灵论和泛原灵论。物理世界中的意识：罗素一元论的观点246（2015）5. 查默斯，D.J.：面对意识的问题。意识研究杂志2（3），2006. Cleeremans，A.：意识：激进的可塑性理论。脑研究进展168，197. Fauw，D.，等：深度学习在视网膜疾病诊断和转诊中的临床应用自然医学24（9），1342（2018）8. Ferrucci等人：构建Watson：Deepqa项目概述AI Magazine31（3），599. Godfrey-Smith，P.：《其他心智：章鱼、海洋与意识的深层起源》（OtherMinds：The Octopus，the Sea，and the Deep Origins of Consciousness）Farrar，Straus and Giroux（2016）10. Hassabis，D.，Kumaran，D.，萨默菲尔德角Botvinick，M.：受神经科学启发的人工智能Neuron95（2），24511. Lake，B.M.，Ullman，T. D.，Tenenbaum，J.B.，Gershman，S.J.：建造像人一样学习和思考行为与脑科学40（2017）12. Metzinger，T.：机器人伦理的两个原则《机器人与社会学》，pp. 24713. Raoult，A.，Yampolskiy，R.：机器意识测试（2015）14. 罗森塔尔，D. M.：Varieties of Higher-Order Theory56，1715. Schneider，S.：超级智能人工智能和后生物宇宙方法。什么生活就是生活（2017）16. Schwitzgebel，E.：现象意识，我尽可能天真地定义和辩护。意识研究杂志23（11-12），22417. 沙纳汉，M.：把意识赋予人工智能。arXiv预印本arXiv：1504.05696（2015）18. Silver，D.，等：在没有人类知识的情况下掌握围棋性质550（7676）、354（2017）19. 辛格，P.：实践伦理。剑桥大学出版社（2011）20. Singler，B.，史密斯，E.S.J.，拉姆齐角，Uren，J.：机器中的痛苦：短片21. Sotala，K.，格洛尔，L.：超级智能作为天文痛苦风险的原因或治疗方法。Informatica41（4）（2017）22. Tononi，G.，Boly，M.，Massimini，M.，Koch，C.：整合信息理论：从意识到其物理基础。Nature Reviews Neuroscience17，450