现象经验与知觉约束: 意识作为智能系统的属性，机器意识的解释和认知结构的实现

现象经验与知觉约束状态约沙·巴赫哈佛进化动力学项目，剑桥，MA 02138，美国bach@fas.harvard.edu抽象。认知的计算模型如何解释意识这个难题？这一贡献解决了我们的一些直觉的性质，现象的经验和第一人称的角度来看，并提出了途径，为他们的实现在认知架构。关键词：现象意识，难题，皮层传导理论，注意，联结，认知结构。处理难题如果人工智能被当作一门认知科学来研究，那么它就无法避免解释人类思维中最难以捉摸、最多变的特性：现象状态的意识体验。虽然我曾试图在其他地方解释机器意识的一些功能属性（Bach 2018a，2018b，2009），但本文避免了技术和形式上的争论，而是试图简要介绍一些最相关的概念直觉，以理解意识作为智能系统的一种属性。建模感知、记忆、决策、基于奖励的动机给认知科学带来了挑战，但这些能力似乎并不神秘。这同样适用于扩展具有自反和元认知能力的AI系统。但是人工智能模型怎么可能解释这种感觉呢David Chalmers（1995）将其描述为意识的难题：有机体成为“经验主体”的能力。为了进一步说明这意味着什么，GiulioTononi和Christof Koch（2015）提出了五个公理，我将简要总结如下：1.意识是真实的、实在的（出于同样的原因，笛卡尔不得不说出他的名言“我思故我在”）。2.意识是组成性的（例如，视觉体验是由颜色和形状构成的）。3.经验是具体的，它以区别于其他经验的方式发生。4.意识是整合的（统一的）：经验的元素是相互依赖的，因此它们被一起体验，并且不能被简化为单独的元素（例如视觉感知中的颜色和形状）。5.有意识的经验是有边界的：它规定了某些事物，从而排除了其他事物。虽然这些公理既不是特别公理化的，也不足以解释我们所说的意识（见Bayne2018），但它们构成了To的基础2Noni人类的可观察行为是由神经系统的细胞、化学和电信号协调的物理相互作用产生的，这似乎是完全合理的，这就是为什么当代神经科学和心理学在很大程度上赞同物理主义的世界观。然而，一个物理过程可以使一个物理对象（如有机体）经历任何事情，这似乎是不可信的。这个明显的难题有几个可能的传统解决方案：1. 物理主义是错误的，我们居住的世界不是物质的，而是完全经验的（一种梦想，但有我们自己之外的心灵所赋予的限制）。这种唯心主义立场是由19世纪哲学家谢林和黑格尔提出的，也存在于许多宗教传统中。因为物理主义的宇宙理论（将宇宙描述为一个因果关系封闭的领域，按照力学定律运行）在解释我们的观察方面非常成功，所以否定物理主义在科学家中并不流行。2. 物质和精神领域是存在的独立领域。这种二元论的立场通常被认为是勒内 · 笛 卡 尔 提 出 的 ， 并 被 戈 特 弗 里 德 · 威 廉 · 莱 布 尼 茨 （ Gott-fried WilhelmLeibniz）（他认为这些独立的领域根据“预稳定的和谐”共同进化）和尼古拉斯·马勒伯朗士进一步发展。二元论的一个问题是，物质世界要么被定义为因果封闭的，要么被经验观察为因果封闭的：如果心灵可以改变物质世界，它将违反守恒定律，如果它不能改变物质世界，意识只是一种附带现象。这意味着：如果一个副现象主义的思想家在物理学之外拥有现象经验，它就不可能引起思想家的论证，因为论证的表达必须发生在物理学的世界中。据我所知，最后一次为寻找二元论的途径而进行的实质性努力是卡尔·波普尔和约翰·埃克尔斯（1977）所做的，他们认为新皮层中的量子效应可能是随机的，足以不违反守恒定律，但仍然可以充当精神和物理领域之间的管道。（守恒定律表明信息本身是守恒的，所以这个论点似乎毫无希望。）3. 要理解意识，就需要将我们对物理学的理解扩展到计算原理之外。为了摆脱机械论的观点，仅仅发现信息在宇宙中流动的新方式是不够的，我们对物理实在 的看法 可能必 须突破 现有物 理学的 计算框 架。罗 杰·彭罗 斯（RogerPenrose，1998）我想说的是，出于认识论的原因（我们只能进行非线性分解的局部观察，而且我们必须用计算语言描述我们的模型），这些原则将留在我们可以观察和建模的宇宙之外。因此，从嵌入式观察者的角度来看，它们似乎是物质宇宙不可分割的一个方面，这使得这种立场与泛心论无法区分。物理学的立场不完整的问题类似于二元论：物理学的标准模型似乎已经足够详细，可以解释生物体的所有必要动力学，并且它没有留下明显的因果空白，通过这些空白，现象意识3会影响我们的行动(The彭罗斯认为的一个不明显的差距是量子引力，因为当前的物理学还没有为统一量子力学和弯曲空间提供一个普遍接受的解决方案。4. 意识在原则上是无法解释的。这是一个非理性主义者的立场，科林·麦金（Colin McGinn，1999年）和诺姆·乔姆斯基（No-am Chomsky）都对此进行了论证。5. 科学研究应该关注意识的功能方面，例如有意识的注意力将感知内容和知识的不同方面相互联系起来，这在Bernard Baars的全球工作空间理论（1993）中进行了探索，以及Stanislas Dehaene（2014）的神经科学适应。对有意识的主体的行为的详细的功能性解释将汇聚为对现象意识的解释。6. 现象意识不存在，是一种幻觉（Frankish 2016，Dennett 1992，2016）。我们应该注意到，如果精神事件是由神经系统产生的，并且神经系统的相关动力学原则上可以由已知的物理学描述，那么对事件的意识体验就不可能在实时或非常接近实时的情况下发生。由于神经系统中信号传播的速度很慢，感觉模态的处理可能需要数百毫秒。此外，同一事件的不同感觉方式（例如感觉脚如何接触地面，听到脚步声）不会花费相同的时间来处理，并且必须在稍后融合，并且稍后的刺激可以改变耳的体验（Stiles等人，2018）。因此，有意识的经验不可能在现实中发生，而必须在事实发生后被建构。此外，有意识的经验也不只是时间转移：主观上立即启动和执行意向行动，以回应感官事件，也是我们经验的一部分。一个刻意行为的启动不是瞬间的，而是至少需要几百毫秒的皮层活动（Libet 1983），因此，对感觉事件的刻意反应（如脚趾）可能会超过一秒。由于我们没有体验到这种延迟，我们现在对能动性的主观意识体验就不可能是真实的。尽管我们有经验，但托诺尼和科赫关于意识经验的第一条公理与物理主义和神经科学证据都不相容。从物理主义的角度来看，弗兰奇什和丹尼特似乎是正确的，解决难题的办法是明确的：一个物理系统，如有机体，实际上不可能有现象经验。因此，我们需要解释的不是一个有机体如何能够有现象经验，而是为什么我们看起来有现象经验！当我们意识到我们实际上并不是由物理学实现的有机体，并生活在物理环境中时，这个明显的悖论就可以得到解决。我们所经历的世界不是物理世界，而是一个由我们的大脑产生的虚拟世界，它由神经系统实现，试图解释感官模式。当我们睡觉时产生梦境的电路在我们清醒时也会产生梦境，但在清醒时，梦境被调整为预测我们的感觉神经产生的模式。经验的主体，自我，是一个虚拟的角色，4在这个虚拟的世界里，就像小说的主角居住在一个虚构的宇宙里。自我并不等同于有机体。相反，自我是有机体调节动力学的模型。自我也不是代理人。它是有机体所进行的所有活动的乘客，是大脑产生的模拟物，用于预测，评估和计划有机体在其环境中的轨迹。自我和行为之间的明显因果关系仅仅是因为有机体使用自我作为调节其行为的模型。(For关于为什么自我不具有能动性而是一种表象的详细论证，参见Metzinger 2003。）当我们把唯心主义和物理主义的立场理解为关于实在的本体论陈述时，它们是不一致的，但在心灵方面，它们是互补的：我们确实生活在梦中，我们每个人都在一个单独的梦中，而梦，包括它的所有居民，都是由生活在物理宇宙中的有机体的大脑产生的。我们之所以以一种特殊的方式体验事物，其原因与小说中的人物之所以这样做的原因是一样的：因为我们的经验的内容和经验本身的事实正是由其作者以这种方式书写的。就像小说中的人物一样，我们通常也不会注意到我们不是真实的，只要作者没有把我们不是真实的发现写进我们的故事。(The一种被称为“现实解体/人格解体障碍”的心理学现象可能是这一规则的代表和例外。我们的现象经验对我们的自我来说是非常真实的，但我们的自我不是真实的。换句话说，当托诺尼和科赫（2015）认为只有物理有机体才能有意识体验，而模拟不能时，他们完全颠倒了：物理系统不能有意识，只有模拟才能。2感知的架构要使某事物有资格成为经验的内容，有必要也有足够的条件使它被回忆为我们注意的主题。我们不能回忆起我们不记得的事情，我们能回忆起的事情都是无意识的。这意味着我们拥有特殊的注意力系统，它与索引记忆相结合，以一种整合的方式，所有不同的记忆都可以相互关联。我把这种注意力系统称为皮层指 挥 者 （ Bach 2018a ） 。 Graziano and Webb （ 2014 ） 、 Dennett （ 1992 ） 、Drescher（2006）和其他人也以几种形式提出了将意识视为注意力模型的想法皮层导体是一个更大的感知架构的一小部分，在图1中以简化的方式描绘。人类的感知可能始于子宫内体感模型的形成。赫布学习可以连接同时放电的感觉神经元的末梢，从而在初级躯体感觉皮层中形成体表地图，通过将其与本体感受、前庭和肌肉控制信息相结合，将其扩展为身体空间排列的模型。触觉，视觉和听觉模态的相关性允许将触觉空间扩展到直接环境的模型奖励信号的存在5情绪调节器和动机冲动以及本体感受允许代理人模拟其动机，情绪和享乐状态（Bach 2015）。运动状态与躯体调节（营养、健康、休息等）有关，社会调节（从属关系、培育、支配等）或认知调节（能力、探索、美学）。它们与主体的注意力状态、短期和长期的传记记忆一起，形成了主体自身调节的模型：自我。这个模型与规则并不相同，但它允许生物体解释、预测和评估自己的行为，从而改善规则。自我模型和当前世界状态构成了有机体以自我为中心的局部知觉空间。智能体还能够创造反事实的世界状态（想象或记忆的精神状态，不符合环境或自我的当前状态）。这个心理阶段对于计划、学习和推理至关重要。Fig. 1. 感知的架构当智能体移动到一个新的位置，或者自我和环境发生变化时，感知空间发生变化。这些变化是使用全局分配中心图和智能体的传记记忆，以及允许我们预测、解释和评估新状态的知识和各种认知工具来建模的。在每一个时间点，只有一小部分的总世界模型的代理是实例化的感知空间和当前活跃的感知和感觉模式。与注意力系统的状态一起，这个当前的实例化相当于状态6的工作记忆。工作记忆相当于一组潜在变量的值和将它们彼此联系起来的关系：绑定状态。注意系统根据感觉模式和知觉的相关性来选择它们，以更新知觉空间。注意系统的一个主要作用可能在于它对学习的支持。注意学习的工作原理是在模型中进行局部干预，并将该模型与变化的预期结果、感知空间的当前部分绑定状态（对当前情况的记忆）以及我们期望能够学习干预是否成功的条件一起存储。当稍后遇到具有所需学习信号的世界状态时，可以调用在干预时间期间的部分绑定状态，并且可以加强或撤消对模型的改变。存储和回忆需要注意系统能够访问集成的协议存储器。有意识的注意力可以被理解为储存内固定记忆的能力。现象意识是一种特定知觉约束状态的记忆。由于注意系统本身需要通过注意学习来训练，因此访问注意系统的行为也可能存储在注意协议中。进入意识可以被理解为进入特定结合状态的记忆，如存储在注意力协议中的那样。自反意识是对这种体验的记忆，也就是说，自我作为一个系统的模型，可以访问自己的经验。3绑定状态局部感知空间是解释当前感知模式的计算算子，因为它们可用于代理。这个模型可以理解为一组可变参数（模型的状态）和它们之间的计算关系（模型的不变性）。感知是通过传播变量之间的关系来创建变量之间的一致性的过程，直到达到一致的状态。一个完美的模型将以这样一种方式被约束，即自由模型参数的每一个可能的稳定配置都对应于地面实况的一个可能状态，并且大多数地面实况状态的可用感觉模式允许模型状态有效地收敛到地面实况状态。注意力在感知中的作用是修复感知模型中不一致的部分，通常是通过修改值之间的关系，也就是说，通过改变这些值彼此绑定的方式。在每个时刻，只有一小部分可能的模型参数之间的已知关系被实例化为工作记忆中的绑定状态（即我们只感知到整个可能宇宙的非常小的部分和时刻）。我们在不破坏知觉操作符连贯性的情况下建立的关系越多，我们就能解释越多的感官数据，也就能更好地预测未来的状态。与许多感知的机器学习模型不同，这些模型仅限于识别个体、独立的特征（例如不相关的位图数据集），生物体的所有感官输入都对应于同一个连贯和连续的宇宙中的一个方面，因此，理想情况下，它应该被解释为单个统一建模功能的一部分。7神经科学的绑定问题有点类似于互联网的绑定问题：一个非常特定的信息交换单元（如神经元或互联网服务器）配置如何能够在一个可能连接的大型网络中组织和稳定自己？这个问题的答案也可能是类似的：神经元可以被组织起来，这样它们就可以执行一个协议，允许它们以特定的关系进入当前绑定的神经元集合之一，在必要时留在这个群体中，并在需要时离开它。似乎有两大类方法来解决绑定问题，要么通过在神经元组件（如皮层柱）之间发送重复的本地代码，其作用类似于互联网上计算机的“ping”和“ack”消息。请求确认网络（Bach和Gallagher 2018）描述了这种协议的实现。在神经科学中，在特征整合理论中发现了类似的方法（Treisman和Gelade 1980）。实现绑定的另一种方法被称为同步理论（Milner 1974，von der Mahlsburg 1981），并提出神经元的同步放电导致它们绑定。这两种理论继续有新的发展和支持者，大概至少部分是因为它们都预测了类似的观察结果：连接大脑皮层上大量神经组件的局部信号协议的实施将被观察为同步振荡。因此，更有趣的问题是关于因果顺序：绑定是同步触发的结果，还是相反？克里克和科赫（Crick and Koch，1990）提出了一种有趣的非局部同步理论，可以解释放电频率本身是如何导致结合的，这种理论或许可以被称为神经以太理论。在这里，皮层神经元被解释为形成一个以不同频率在全球传播信号的晶格，并且通过调谐到给定频率（即以固定间隔对其他神经元的信号进行采样），神经组件可以将自己绑定到不同感知内容的处理，就像无线电接收器可以调谐到特定节目一样。从托诺尼和科赫的IIT的角度来看，意识增强的状态对应于大部分皮层活动接收并参与产生相同的感知程序的状态。内聚知觉联结状态的存在是现象经验的必要条件，但不是充分条件。如果大脑创造了一种感知无线电程序，并用它来协调有机体的行为，那么什么是倾听？与一些泛精神论者所认为的宇宙本身或二元论者所声称的物质宇宙之外的某个实体不同，我确认这项工作得到了哈佛大学进化动力学项目、麻省理工学院媒体实验室和爱泼斯坦基金会的支持。我要感谢凯瑟琳·加拉格尔、亚当·马布尔斯通和人工智能未来的学生们8感谢麻省理工学院媒体实验室的课程，感谢他们在讨论这一主题方面的贡献，以及马丁·诺瓦克和伊藤穰一的支持。引用巴尔斯湾（1993年）。意识的认知理论。剑桥大学出版社Bach，J.（2009年）。合成智能原理心理学，一种动机性认知的结构。牛津大学出版社.Bach，J.（2015）. MicroPsi 2中的建模动机。Artificial General Intelligence，8thInternational Conference，AGI 2015，Berlin，Germany：3Bach，J.（2018 a）.皮质导体理论：在AI模型中解决意识问题。BICA 2018Bach，J.（2018 b）.人类和其他机器的意识AAAI秋季研讨会WS“走向认知的共同模型”后录巴赫，J.，加拉格尔湾（2018年）。MicroPsi 2中的请求确认网络。AGI 2018会议记录，Springer。Bayne，T.（2018）在意识的综合信息理论的公理基础上，意识的神经科学，卷2018，第1克里克，F.，C. Koch（1990年）。意识的框架。Nature Neuroscience. 6：119-26Dehaene，S.（2014年）。意识与大脑维京出版社Dennett，D. C.（2016年）。幻觉主义是意识的明显缺省理论。Journal of Consciousness Studies，23，No. 11-12，pp. 六十五至七十二岁Dennett，D. C.（1992年）。意识解释。Back Bay Books，New York Drescher，G.（2006年）。好和真实。麻省理工学院出版社弗兰奇什，K。（2016年）。作为意识格拉齐亚诺湾S.一、Webb，T. W.（2014年）。意识的机械论。国际机器意识Libet，B.，Gleason，C. A，Wright，E. W.，Pearl，D.K.（1983年）。与大脑活动开始有关的有意识的行动意图的时间（准备电位）。无意识地开始一种自由自愿的行为。脑.1983年9月; 106（Pt 3）：623-42von der Malsburg，C.（1981年）。脑功能相关理论。MPI生物物理化学，内部报告81转载于神经网络模型II（1994），E。多曼尼，J.L. van Hemmen和K. Schulten，eds.（柏林：施普林格）McGinn，Colin.神秘火焰。物质世界中的意识Basic BooksMetzinger，T.（2003年）的报告。没有人。麻省理工学院出版社Milner，P.M.（1974年）。 视觉形状识别模型。Psychol Rev. 81（6）：521-35. doi：10.1037/h0037149。PMID 4445414Penrose，Roger.皇帝的新思维：关于计算机，思想和物理定律。牛津大学出版社Popper，K.，埃克尔斯，J.C.（1977年）。自我及其大脑Springer斯泰尔斯，N.R.B.等（2018）。你所看到的就是你将听到的：两种具有视听后验效果的新错觉，PLOS ONE托诺尼湾（2012）：意识的整合信息理论：更新帐户。意大利阿彻。Biol. 150，56Tononi，G.，科赫角（2015年）。意识：这里，那里，到处都是？Philosophical transs-actions of the Royal Society B; 370：20140167Tononi，G.，Boly，M.，Massimini，M.，科赫角（2016年）。整合信息理论：从意识到其物理基础。Nature Reviews Neurosc. 17（7）：450Treisman，A.，Gelade，G.（1980年）。注意的特征整合理论。《认知心理学》，第12卷，第1期，第110页。九十七至一百三十六