人级人工智能：现象体验与人工认知系统的重要作用

人级人工智能Lorijn Zaadnoordijk1和Tarek R.Besold21Radboud University，Donders Institute for Brain，Cognition，and Behaviour，Nijmegen，荷兰L. donders.ru.nl2Alpha Health AI Lab，Telefonica Innovation Alpha，巴塞罗那，西班牙Tarek. telefonica.com抽象。 对于人类认知者来说，现象经验在与世界的日常互动中占据中心地位。在本文中，我们主张将现象体验转变为人类水平人工智能（HLAI）研究和开发的重点我们的目标不是让人工系统感受到人类的感觉，而是关注功能上等同于现象体验的工程能力这些能力可以提供不同质量的输入，使认知系统能够更有效地自我评估其在世界上的状态，并且比当前方法所允许的更具一般性我们以能动感为例，为我们的一般性论证奠定基础。与此同时，我们反映了更广泛的可能性和好处，为人工对应的人类现象的经验，并提供有关实施功能等同的机制的建议。关键词：人类水平的人工智能·现象学·能动感1介绍现象体验是我们与周围世界许多互动的决定性因素。虽然对我们来说，日常认知中的现象性品质并不总是值得积极关注，但经验维度的消失将产生深远的影响，例如，学习，社会互动和道德行为。因此，现象学已经成为不同学科[3，7，19]的理论和实证研究的热门话题，但除了一些值得称赞的例外，如[17，4]-在人工智能中被广泛忽视。我们主张将现象学也转移到人类水平人工智能（HLAI）研究和开发的重点。与非现象感知相比，现象体验为认知提供了不同质量的输入（即，来自环境的刺激的抽象记录）。其中，现象学可以促进对人工认知系统在世界中的状态的自我评价2L.扎德诺代克河R. 贝索尔德--2人级人工智能HLAI旨在开发能够有意义地被认为与人类相当的机器，因为它们同样能够推理，追求和实现目标，感知和响应来自环境的不同类型的刺激，处理信息，或从事科学和创造性活动。我们对HLAI的看法是功能主义的：任何在人工系统中（重新）创造人类水平智能的技术实现手段都被认为是有效的。任何一种认知系统需要解决的核心挑战之一是如何最好地与世界互动（即，它所处的环境）以及它在世界上的状态的相关（自我）评价。至少对人类来说解决这些相互关联的问题的两种可能的方法浮现在脑海中：一种方法利用高级推理能力，另一种方法依赖于现象经验。前一条路线可能需要一个过程，需要所有的感知，表征，推理和评估。 另一方面，现象经验通常承担着提供直接（相比之下，更不需要中介）的接触和评价的功能，允许通过一条不涉及高级推理的路线从感知到评价1. 感知感官输入{Y}。2. 表示感知的输入：R2（Y）.3. 从R（Y）映射）-和系统-内部信息S-的评价经验范畴、质量和效价，例如，痛苦或恳求确定，弱或强，吸引或厌恶：E（R（Y），S）→ {{痛苦，快乐，。. . }×{弱，强，。. . }× {attractive，avesive，. . . }，}。3比较这两种方法，第二条涉及现象经验的路线有三个优点：（i）提高效率和易处理性，（ii）减少对额外信息的要求，（iii）增加一般性。从感知表示直接映射到评估消除了从表示到类别标签的推理过程，否则这可能涉及探索显著大小的状态空间或执行冗长的单个推理步骤链。此外，在许多情况下，高级推理机制的成功执行需要进一步的知识，这可能是认知者无法获得的在相关的时间点。相反，现象经验被假定为大多独立于一个人的知识（尽管他们可能会受到以前的经验和对被试的熟悉程度的影响）。最后，在“标准”方法中，系统和环境之间的接口通常根据评估功能来构思，评估功能采用两组输入：一组当前系统和世界状态，通常与系统的潜在动作的表示一起，以及一组目标（即，所需的系统或世界状态）。函数输出是相对于系统目标的系统和世界状态的评估。生成这些函数远非微不足道，[3]映射的共域包括感知，以解释感知不产生现象体验的情况，例如，在阈下启动中人级人工智能3一般性的回答或方法。在大多数情况下，这妨碍了普遍性，因为评价职能必须以某一领域或行动空间为基础，才能以全面的方式加以界定此外，它们依赖于某些定义的域元素或动作可能性的存在（或不存在），这进一步限制了应用程序域的通用性。3人工现象学我们主张工程人工现象学（即，现象体验的功能等价物即使我们知道如何在人工系统中再现人类现象学，由于人工智能/机器人系统和人类之间缺乏亲缘关系，现象经验的先验性是没有根据的：很可能是这样的情况，即精确的现象性质可能是由人类的特定形式的表征和/或处理产生的附带现象[6]。尽管如此，我们仍然相信，现象体验的同一性并不是必需的，但是，为了创造HLAI的目的，机器一侧的功能等同物就足够了。因此，挑战就变成了设计一种能力，实现与认知过程中的现象体验相同的功能，但对于实际的质的维度仍然是不可知的在考虑人工现象学的实现方式时，我们采用了一种表征主义方法[5]，这种方法通常既适用于认知能力，也适用于现象体验。表象主义对现象学的解释表征主义为HLAI中的方法提供了一个自然的接口，该接口建立在计算认知准则（即，假设计算在原则上能够产生心理能力），因此，除其他外，引入表征作为计算的重要组成部分[14，16]。4实施现象学：能动性在典型发育的成年人中，导致一个人的行为及其后果的感觉[10]），有助于认知的重要方面，例如通过干预学习[11]，社会和道德互动[2]以及自我-他人区分[19]。至少有两种不同的现象-在“代理意识”的旗帜下在判断的情况下，推理步骤产生了作为世界上的代理人的假定地位--认为自己是代理人为从环境中观察到的情况提供了最好的解释，因此代理人是以事后的方式被假定的。这导致了一种信念状态，认为理性者具有能动性。就能动性的感觉而言，能动性并不直接被感知或被断定为一个积极推理过程的结果，而是被体验为一种基于对什么的表征的现象性质。世界是什么样的。因此，与判断相反，能动性的感觉更类似于一种知觉状态，而不是一种信念状态。4L.扎德诺代克河R. 贝索尔德从HLAI的角度来看，在考虑实现时，这两个概念提出了不同的挑战对行政机关的判断需要一个推理过程，确定自己是所观察到的环境状况变化的最可能原因在认知系统中实现这种推理会回到框架问题的几个方面[9]。如果要求行政机关的判断是绝对正确的，那么这个体系必须能够排除世界上各种变化的所有可能的替代原因（观察到的和未观察到的）唉，已经决定了知觉输入的哪些方面与执行能动性判断相关，就像随后的推理过程一样，带来了计算困难的危险。幸运的是，绝对正确强加了一个不合理的标准，尤其是因为当人类被要求在不可能立即观察的环境中判断他们的机构时，人类也会犯错。在实践中，执行主体判断等同于对最佳推理的一种推理形式，因此，等同于溯因推理[13，8]：系统必须决定其环境的变化是否最有可能是由于其自身的行为，使其成为相应情况下的主体（或不是）。作为知觉状态的能动性的感觉通常被认为产生于一方面在一个人的行动之后预测的世界状态与另一方面观察到的世界状态之间的一致性[1]。由于其对其他认知能力的贡献，几个研究小组已经开始研究如何为人工系统配备SoA或相关能力的问题这些项目和类似项目的一个共同点是，它们主要侧重于应急检测。然而，虽然应急检测在人类SoA中起着重要作用，但它本身是不够的[21]。相反，感觉运动偶然性的检测很可能是因果推理的线索，即动作是由自己引起的，其输出是一种心理因果表征，部分表征了SoA。返回到人工认知系统的上下文，获得相应的尽管如此，虽然这一步骤在本质上是推理性的，但它并不一定要涉及复杂的高级推理形式，就像对行政机关的判断那样 它可以按照上面列出的现象体验的一般模式进行：提供感知的世界状态作为感官输入，以及在当前时间点系统内部信息中预测的世界状态，检测两者之间的平等关系导致映射到作为经验类别的“能动感”。当然，这不可避免地引发了所需映射函数的起源问题 不同的方法是可以想象的，包括系统架构师的先验硬编码，从观察到的统计数据中学习，或者通过设计者或用户的明确的“教学”努力。一般来说，在设计一个人类能动性感觉的功能等同物时，挑战在于忽略了人类现象经验的实际质量维度（参见第10章）。第3节中的相应讨论），同时也没有剥夺拥有非凡体验的好处。一个可能的解决方案是直接映射某些感官范围，并结合一个快照-人级人工智能5将内部系统状态转换为即时的“现象值”。给定系统状态在一个特定的时间点，某些感官输入应该引起人工现象学。现象经验的人工对应物及其丰富的定性属性可以被定义为来自系统可用传感器的输出范围的直接映射，与关于系统内部状态的特定信息相结合。在这一点上，重要的属性是传感器的有限和已知范围以及系统的内部代表机制。通过削减推理步骤，现象启发的方法既不需要对可能的感知及其表示的空间的解释性枚举和解释（并且因此在实践中限制），也不涉及相对于任何目标状态的当前系统和世界状态的经常计算成本高的评估。将相关信息与系统内部属性一起减少到概念表示，并将直接映射应用到具有相关评估值的定性类别，因此增加了计算过程的易处理性和方法的通用性。 然后，输出值可以作为直接的函数对应物 例如，如果遇到“痛苦”，就会引发回避反应，或者5结论我们认为，赋予HLAI系统与人类现象经验的作用平行的能力，有助于以比目前更普遍和更易处理的方式在世界上学习和行动回到我们在第2节中对涉及感知、表征、推理和评估的过程与人工现象学的较短这反过来又可以促进世界上的学习和行动，根据预测结果分配行动，并评估实际行动的结果。在应用方面，除了已经提到的关于创建HLAI作为研究努力的进展的明显优势之外，人工智能还可以用于其他方面。社会现象学有望在人机交互（HCI）环境中开启一个新的定性维度。人工现象学将极大地促进系统行为更接近人类代理，以及复杂的用户建模能力，提供更直接的-和可能generally更好的知情-帐户的用户的认知状态（S）作为基础的互动和协作。因此，有几个方面激发了对人工现象学的需要，因此，需要研究的可能性。在本文中，我们概述了该企业的起始位置6L.扎德诺代克河R. 贝索尔德引用1. Blakemore，S.J.，Wolpert，D. M.，Frith，C.D.：中枢对自发性痒感的消除。Nature Neuroscience1（7），635（1998）2. 卡斯帕，E.A.，Cleeremans，A.，Haggard，P.：只是发号施令？实验研究发出或接受命令时的能动性的PLoS ONE13（9），e0204027（2018）3. 查默斯，D.J.：经验的表征性未来的Phi-洛斯菲山口1534. Chella，A.，Manzotti，R.：人工意识。在：Cutsurgery，V.，Hussain，A.，泰勒，J.G.（编辑）感知-行动周期：模型、架构和硬件。637-671.纽约州纽约市Springer New York（2011）5. 康明斯，R.：意义和心理表征。Men 's Day（1989）6. Dehaene，S.，Lau，H.，Kouider，S.：回应关于什么是意识的评论，机器能拥有它吗？科学359（6374），4007. Dehaene，S.，Naccache，L.：走向意识的认知神经科学：基础证据和工作空间框架。 认知79（1-2），18. Denecker，M.，Kakas，A.：逻辑程序设计中的溯因。在：Kakas，A.C.，萨德里，F.（编辑）计算逻辑：逻辑程序设计及其他：纪念罗伯特·A·Kowalski PartI，pp. 402-436. 03 The Dog of the Dog（2002）9. Dennett，D.：人工智能的框架问题。心理学哲学：当代Readings433，6710. Haggard，P.，尚邦，五：代理感当代生物学22（10），R39011. Lagnado，D.A.，Sloman，S.：学习因果结构。在：会议记录的一个认知科学学会年会。第24卷（2002年）12. Lara，B.，Hafner，V.V.，Ritter，C.N.，Schillaci，G.：用于机器人自我噪声建模和预测的身体表示。发展人工智能主体的能动性。In：Proceedingsof the Artificial Life Conference 2016 13. pp. 390-397. MIT Press（2016）13. 穆尼，R.J.：在机器学习中整合溯因推理和归纳In：Flach，私人助理，Kakas，A.C.（编辑）溯因与归纳：论它们的关系和整合，pp。181-191. 05 The Dog of the Woman（2000）14. O’Brien, Opie，J.：表示在计算中的作用认知亲-cessing10（1），5315. Pitti，A.，Mori，H.，Kouzuma，S.，Kuniyoshi，Y.： 视觉运动脉冲神经网络中 的 偶 然 知 觉 和 能 动 性 测 量 。 IEEE Transactions on Autonomous MentalDevelopment1（1），8616. Rescorla，M.：心智的计算建模：心智代表的角色是什么tation？Wiley Interdisciplinary Reviews：Cognitive Science6（1），6517. Sloman，A.，Chrisley，R.：虚拟机与意识Journal of consciousness studies10（4-5），13318. Synofzik，M.，Vosgerau，G.，Newen，A.：超越比较模式：一个多层次的代 理 商 的 阶 乘 两 步 帐 户 。 Consciousness and Cognition17 （ 1 ） ， 219-239（2008）19. Tsakiris，M.， Sch hütz-Bosbach，S.，加拉格尔，S.：关于代理和债务：现象学和神经认知的反思。 意识与认知16（3），64520. Wegner，D.M.：有意识意志的幻觉03 The Dog（2002）21. Zaadnoordijk湖Besold，T.R.，Hunnius，S.：匹配没有意义：关于比较国模式在解释代理感方面的充分性（提交）