自主系统中的意识与理解

自治系统中的意识和理解Ricardo Sanz1和Julita Bermejo-Alonso21Autonomous SystemsLaboratoryUniversidadPolit´ecnicadeMadrid，28006Madrid，Spainricardo. upm.es2伊莎贝尔一世国际大学Fern´anGonz´alez76，09003布尔戈斯，西班牙julita. ui1.es抽象的。这份立场文件将强调理解的正式概念作为构建有意识AI的基石之一的重要性。它将表明，理解的感知和行动流程的能力是正确的操作的自主系统的关键机器学习领域对这一方向的贡献也进行了评估关键词：人工智能·意识·意识·理解·自主·机器学习”What1介绍自主性--一个主体在一个不断变化的、不确定的世界中自行采取适当行动的能力--似乎需要意识。当你或多或少有意识时，只要考虑一下你的自主行为的质量。这种能力同样需要机器[27]。Graziano说：“人工智能每年都在变得越来越智能，但我们从未赋予机器意识。.这是真的吗？我们曾经给我们的机器赋予过意识吗？.这个问题的答案取决于我们认为意识是什么[32]。需要适当的定义来支持研究人员的合作，并使理论选择和巩固。Chella和Manzotti [5]将机器意识描述为 他们还指出[6]“人工意识应该实现的主要目标：自主性和恢复性，信息整合，语义能力，意向性和自我动机。” 这种机器意识的 愿 景 完全符合2室桑兹·J 贝尔梅约-阿隆索人工智能是人类心智能力机器复制。在这种模仿人类的意义上，我们工程师显然离我们的机器像我们一样有意识还很远。然而，人类的模仿可能并不是正确理解意识现象的正确途径。欧文[17]认为，保留“意识”的概念是认知科学进一步发展的障碍。从神经科学的角度进行分析，可以它对工程机械也有效吗？我们坚信，如果我们的目标是在有意识的人工智能方面取得良好的进展，我们应该超越以人为中心的方法，专注于更内在，功能和建筑属性一般意识系统。专注于人类思维的陷阱是多方面的。 例如，好的，旧的现象意识的方法缺乏必要的清晰度，无法作为系统工程实践所需的验证和验证工程AI的基础。 我们将集中对i）可精确定义的方面-即以形式术语-和ii）可通过实验验证的方面。请注意，所有关于人类现象意识的结果都是基于受试者的主观口头报告。 意识研究的客观性肯定是难以捉摸的，对意识的概念本身缺乏一致意见是一个主要障碍。索默霍夫说：“当然，对[意识]这个词的精确定义只能是意识理论的终点，就像功和能的概念只有作为力学理论的一部分才能找到精确的定义一样。也许在就人工智能意识达成一致之前，有必要正式讨论认知系统的更多基本方面。在我们看来，在围绕意识的众多现象中，有是自治系统工程实践的两个关键要素：i）capa-感知的能力和ii）理解所感知的内容以实现情境意识的能力，情境意识是有意义地行动的能力的基础。为这两种能力- 特别是可能会成为一项艰巨的任务。感知的情况学者之间的差异更多地与感知过程的边界有关--从哪里开始，从哪里结束--而不是与其性质有关。然而，理解的概念要复杂得多“理解”是一个非常难以捉摸的概念。它一直是流行病学中的一个常见话题，但它已被知识研究所取代。类似的现象也发生在AI技术领域。然而，对理解的兴趣正在所有领域重新获得力量3。有些人可能认为，人类和机器共同理解的概念仍然是一个梦想。在这个方向上有无尽的绿芽例如牛顿的位置[21]似乎相当接近工程师的需要3正如最近DARPA对具有常识的系统的呼吁所表明的那样，理解能力被视为至关重要。自治系统3作为对环境刺激的反应，谈话状态在于主体对刺激的理解以及她对刺激的反应目标，正如身体行为片段的意向性（意义）在于它是行为主体所理解的目标导向行为的一部分为了建立基于感知和理解理论的机器，我们指出有必要建立明确的概念化和定义。只有通过这种方法，我们相信才有可能实现现实世界AI的工程和部署所需的可构建性和可验证性。然后，这些定义可以基于实现的所展示的结果来发展，以建立明确的意识理论。2认知循环在我们看来，意识的核心进化和功能价值与向感知和行动主体提供情境意识有关。有意识的代理人更了解正在发生的事情。这使得能够正确致动。情境意识被定义为如前所述良好的位置行动。在自主系统中，如动物、人类、机器或其中任何一种的群体，实现足够的态势感知是决定性的。这种对意识的需求与许多现有的认知行动周期的分析和建模方法（OODA，MAPE，PDCA等）是一致的。）. 在这种情况下，我们可以说功能自治系统的四个关键要素是：– 感知的能力– 理解的能力– 推理的能力– 行动的能力传统的GOFAI以推理为中心。情境AI处理感知和行动的耦合-以斯金纳的方式忽略两者之间的关系。所有这些研究都产生了非常有价值但不可扩展的结果，以全面的自主系统：我们目前的自治系统仍然缺乏必要的理解4.意识在这幅图景中所扮演的角色一直不清楚[34，3]。大多数基于人类的意识理论仅仅是哲学的，过于抽象，基本上脱离了实现-AI中需要的实现。在其他情况下，当理论更接近实现时（例如，在人类的情况下是神经，在机器的情况下是软件）[30，8]存在问题[4]或者更确切地说，他们的理解水平是有限的，并与特定的作用机制严格联系在一起。4室桑兹·J 贝尔梅约-阿隆索非一般性-即 它们没有适当地解决多个可实现性-或者在体系结构意义上的因果不透明性。这些理论实际上不能被积极地用作一般工程资产。在本文中，我们认为，意识是感知和理解的适当耦合的净效应-包括自我感知。 正如我们稍后将看到的，这与目标和价值有关-代理，他们的配偶或他们的伴侣。 大师3理解的本质在最近的一篇文章中，Baumberger等人。 [1]从认识论的角度解决了什么是理解的问题。他们大多围绕两种理解：“解释性的”理解为什么事物是这样的，以及“客观的”理解领域。这个讨论本质上是形而上学的。理解的存在条件--与科学哲学中的问题接近而与工程需要相距甚远。然而，在本文的背景下，我们专注于代理如何理解它所感知的更世俗的问题。我们可以称之为信号理解。动机很明确：人工智能的失败有时与对正在发生的事情的不正确理解有关。这一点也不新鲜。人工智能中关于常识的旧线索只是开发理解的人工智能的需要的一种表现更好地理解这种情况对于自治系统来说变得至关重要。只要考虑一下自动驾驶汽车系统造成的伤亡，这些系统提高了公众对这一问题的认识DARPA“今天的机器学习系统比以往任何时候都更加先进，能够自动化日益复杂的任务，并成为人类操作员的关键工具。然而，尽管最近取得了进展，人工智能（AI）的一个关键组成部分仍然遥不可及--机器常识。对常识这一难以捉摸的概念的关注阻碍了前面提到的问题：大多数人工智能研究的过于拟人化的概念对人工智能所追求的东西的描述--常识--对心理学家、社会学家或门外汉来说是有意义的，但在人工智能的实现中，程序员还远远不能机械化。我们显然需要机器的常识，为了实现这一点，我们必须赋予它们理解正在发生的事情以及它们的行为的后果的能力。目前的状况所缺少的是：– 一种科学的、有效的、被广泛接受的形式化的理解理论。– 用于理解的参考体系结构，可以共享和重用。自治系统5– 由明确定义的需求驱动的特定于领域的架构实例化（例如一个真正的系统工程过程[18]）。在我们看来，理解理论最有希望的建议取决于智能体拥有一个与现实深度调谐并用于动作生成的世界模型[7，24，22，35]。尽管过去在这方面取得了进展，但仍需要作出更多、持续和协作的努力，以推动、传播和巩固这些成果。我们在本文中要捍卫的核心思想是强烈的代表主义：智能体将他们的世界模型保存在头脑中，并使用它们来决定该做什么[29]。心智是基于模型的控制器5。意识是保持这些模型更新的功能状态，动作和效果，调整到现实[28]。在这幅图中，学习的某些方面确实应该被认为是意识的缓慢部分。模型的价值来自于其可操作性。可以执行模型以提供不同类别的信息。正如[36]所说：“ 模 型 是 我 们 技 术 设 备 中 高 度 专 业 化 的 部 分 ， 其 特 定 功 能 是创 造 未 来 。在这幅基于模型的心智图景中，理解的本质是清晰的：当感觉信号所携带的信息被适当地整合到代理的心智模型中时，该感觉信号被理解。请注意，4理解理论这种关于什么是理解的想法必须发展成一种坚实的理解理论，以便能够在现实世界的自主机器中系统地实现意识机制。经典人工智能中的理解与人工智能的产生和使用[20]知识，主要是在一个命题的形式。然而，我们将超越理解的命题解释（因此也超越知识的命题解释）来解决更一般的自主性问题。 虽然认识论者都在后Gettier分析知识，一般知识的理论适用于人工智能还没有先进的纽厄尔的知识水平以上哲学一直在处理这个问题。 然而，大多数哲学理论都不够精确，也不够积极。戴斯[9]定义了意识作为一个解释感觉的过程-即在感觉流中找到意义。他认为，意义存在于期望和预测附加到定性的感官对比使用大脑的联想记忆。说“居住在”的意思太模糊了，没有用。5显然，一些简单的控制回路不需要完整的模型来操作;然而，控制器应该以某种方式捕获受控系统的动态[7]。6室桑兹·J 贝尔梅约-阿隆索工程级理论应是可理解的、可实现的和可操作的[31]。De Regt提出了一个理论可理解性的标准（CIT1），作为测试其他科学家对科学理论的可理解性的一种方法[23，p.102]：CIT1：科学理论T（在一个或多个表示中）对于科学家来说是可理解的（在上下文C中），如果他们可以在不进行精确计算的情况下识别T的定性特征结果德·雷格特的标准旨在使数学表达的理论具有客观性和充分性。但它特别有趣，因为它要求理论的定性可操作性，与这里提出的理解模型的密切接触。在这个意义上，物理学提供了理解的更好例子。 费恩人[12]，认为这个问题在他的讲座：“什么叫‘理解’？. . . 如果我们知道规则，我们认为我们“理解”世界。费曼[12]将对系统行为的物理理解与“对不同情况下溶液的性质的某种感觉”联系起来。 他补充说：“因此，如果我们有一种方法知道在特定情况下应该发生什么，而不需要实际解出方程，那么我们就“理解”了方程，就像应用于这些情况一样。物理理解是一个完全非数学的、不精确的、不精确的东西，但对物理学家来说是绝对必要的。.同样，Chaitin [4]提出了理解是基于数据压缩的想法;理解某个东西（数据）意味着能够找出一组简单的规则-一个模型-来解释它（解释可用数据是如何产生的）。除了语言学之外，意义的定义并不多。Gelepithis [13]在意识理论的背景下说，对于一个人来说，在某个时间，先前遇到的刺激在其背景下的意义是可以影响其注意力的普遍神经形成。所以，意义是强烈影响注意力的神经结构。Thorisson等人。 [35]在基于模型的认知主体的背景下提供了理解的正式定义。智能体对现象的理解取决于智能体具有的关于现象的模型的准确性。因此，理解是一个多维的程度问题，由模型在两个方面对现象的适当性决定：完整性和准确性。这种以模型为中心的观点本质上类似于建模和仿真背后的正式模型[38，37]。同样的，Thorisson et[35]提供了一个数据的意义的定义为代理，这是由一组相关的影响数据的一组具体的目标代 理和知识，代理在该情况下。然而，关于理解的具体问题，Thorisson的定义将运用模型的能力转换为含义的计算-作者在四个维度的理解测试的想法下捕获：预测，实现，解释，（再）创造。自治系统7我们在这一领域的工作[26，28，16，2]围绕自治系统中理解的模型集成理论。自主系统从数据（通常是从感官输入）中产生意义，并使用其不断更新的心理模型来控制其行为。理解从传感器收集的一块信息意味着将其集成到捕获代理该理论与Thorisson等人 [35]的分析一致，但在两个方面与之不同：– 模型的可操作性。模型是因果完备的;它可以被执行以提供与代理认知能力相关联的能力（例如，预测、控制或解释）。– 意义的定义。我们在解释上与托里森不同作为模型的可操作内容的意义。自主行为是一个棘手的问题，尤其是。涉及自治系统。请注意，行为的产生是为了向i）代理人或ii）所有者提供价值-有时与Asimov恰当地注意到的情况不同。自主人工系统需要根据智能体或所有者的目标来意义-世界模型的可操作的的价值体系（预测到未来，包括反事实）。5机器学习能创造理解吗？原则上，机器学习是意识的最终形式的基础：理解任何事物的能力然而，我们应该避免目前对深度学习和类似机制的相关性不是因果关系，这一事实是这些技术所显示的许多问题的基础。他们创建和使用的模型可以模拟某些数据集，但不能扩展到它们之外，因为它们的因果结构不一定与生成数据的现实同构虽然在许多情况下，神经网络学习者比基于规则的系统更强大，但仍然遭受悬崖效应。由学习者创建的模型是可操作的，但仅限于特定的上下文和使用它们学习的地方例如，用于机器的状态维护的学习模型可以很好地预测其故障，但是在诊断原因时可能是无用的。除此之外，许多学习模型由于其不透明性而不可共享。可解释人工智能（XAI）DARPA项目显示了对这种不透明问题6结论感知和理解是意识的核心问题--无论是在人类还是在人工智能中。虽然许多研究工作都致力于感知，但致力于理解的研究却并非如此8室桑兹·J 贝尔梅约-阿隆索过去关于理解的AI的研究主要集中在自治系统如何理解特定的感官输入-语言理解，图像理解-并将其视为纯粹的句法分析。这可以被认为只是一个感知的过程，也许是必要的，但在理解之前。理解并没有从一个普遍的充足的观点，但只是作为专门的机制来处理特定类别的问题和传感器流。只有一些团队解决了这个普遍问题[35]。在本文中辩护的方法认为，理解为一个过程，将感知到可操作的模型。 这些模型然后被代理用来计算有意义的动作;为代理和/或所有者提供价值。人类意识的某些方面对解决有意识人工智能的问题没有多大贡献。感质和现象经验的问题一般是一个红鲱鱼[11]。我们会知道的。意识- 包括自我意识-是构建自主机器的关键资产。”It–引用1. Baumberger，C. Beisbart，C. Brun，G.：什么是理解？最近在认识论和科学哲学的辩论In：Grimm，S.R.，Baum-berger，C.，Ammon，S.（eds.）解释理解：认识论和科学哲学的新视角1，pp. 1-34.电影Routledge（2017）2. Bermejo-Alonso，J.， Hern'andez，C.，Sanz，R.：使用本体和元模型的基于模型的自动化系统工程在：IEEE国际系统工程研讨会2016（IEEE ISSE 2016）。苏格兰爱丁堡（2016）3. Cavanna，A.E.，Nani，A.：意识神经科学与心灵哲学理论柏林海德堡Springer-Verlag（2014）4. Chaitin，G.：理性的极限科学美国人pp.745. Chella，A.，Manzotti，R.：人工意识。在：Cutsuridis，V.，Hussain，A.，Taylor，J.G.（eds.）感知-行动循环。模型、体系结构和硬件，pp。637-674.纽约州施普林格市（2011）6. Chella，A.，Manzotti，R.：人工意识。在：等人，坦集团（编）Perception-Action Cycle ： Models ， Architectures ， and Hardware ， Springer Series inCognitive and Neural Systems，vol. 1. 03 The Dog（2011）7. Conant，R.C.，Ashby，W.R.：一个系统的每一个好的调节器都必须是该系统的模型International Journal of Systems Science1（2），898. Dehaene，S.，查尔斯湖King，J.R.，Marti，S.：意识处理的计算理论。CurrentOpinioninNeurobiology25，76-84（2014）.https://doi.org/10.1016/j.conb.2013.12.0059. 戴斯，S.：意识的普遍关联。In：Skrbina，D.（编）心存善念。新千年的泛心论。7，pp.137-158 约翰·本杰明出版公司（2009）自治系统910. Endsley，M.R.：动态系统中的态势感知理论Hu-man Factors37（11），3211. Fekete ， T. ， Edelman ， S. ： 走 向 经 验 的 计 算 理 论 Consciousness andCognition20（3），80712. Feynmann，R.，莱顿河Sands，M.：费曼物理学讲座新千年版。第二卷。主要是电磁学和物质。基本图书，纽约（2010）13. Gelepithis ， P.A.M. ： 关 于 意 识 的 新 理 论 International Journal of MachineConsciousness6（2），12514. Graziano ， M. ： 建 造 大 脑 -- 我 们 能 把 意 识 变 成 一 个 工 程 问 题 吗 ？ 在 线 ：https://aeon.co/essays/can-we-make-consciousness-into-an-engineering-problem（2015年7月），访问时间：2018年10月11日15. Hayes，P.J.：第二个朴素物理学宣言。在：霍布斯，J.R.，R.C.摩尔（eds.）《常识世界的形式理论》（Formal Theories of the Commonsense World）1-36 03The Dog（1985）16. Hern'andez，C.，Bermejo-Alonso，J.，Sanz，R.：基于功能知识的机器人增强自主性自适应框架综合计算机辅助工程25，15717. 欧文，E.：意识是一个科学概念。 科学哲学的视角，研究大脑和心灵，卷。5. 03The Dog（2012）18. ISO/IEC/IEEE：ISO/IEC/IEEE 15288-2015系统和软件工程国际标准，国际标准组织（2015）19. L´opez ， I. ：自 治 系 统 中 感 知 的 框 架 工 作 。Ph.D.论 文 ，DepartamentodeAutom´atica，UniversidadPolit´ecnicadeMadrid（Ma y2007）20. Newell，A.：知识水平。人工智能18，8721. 牛顿，N.：理解的基础，意识研究进展，第10卷。约翰·本杰明出版公司（1996）22. Newton，N.W.：理解和自我组织。Frontiers in Systems Neuro- Science11（8）（2017）。https://doi.org/10.3389/fnsys.2017.0000823. de Regt，H.W.：理解科学的理解。牛津大学出版社（2017）24. 罗森，R.：预期系统。哲学、数学和方法论基础，IFSR国际系统科学与工程系列，第一卷。1. Springer，2nd edn. （2012年）25. Sandewall，E.：功能和流畅度。动态系统知识的表示Clarendon Press，Oxford（1994）26. Sanz，R.：设计有意识的机器在：意识ESF/PESC探索性研讨会的模型英国伯明翰（2003年9月1日至3日）27. 桑兹河洛佩斯岛Bermejo-Alonso，J.：复杂控制器中机器意识的基本原理和设想。在：Chella，A.，曼佐蒂河（eds.）人工意识，pp. 141-155. 03 The Dog（2007）28. 桑兹河 洛佩兹岛，Rodr'ıguez，M.， Hern'andez，C.：综合认知控制中的意识原则神经网络20（9），93829. 桑兹河Meystel，A.：建模、自我和意识：AI研究的进一步展望。在：PerMIS '02会议录，智能系统研讨会的性能指标。Gaithersburg（MD），USA（August 13-15 2002）30. Shanahan，M.：具体化和内在生活：可能心灵空间中的认知和意识牛津大学出版社（2010）10室桑兹·J 贝尔梅约-阿隆索31. Sloman，A.：是什么让机器能够理解？在：第9届国际人工智能联合会议的会议记录-第2卷。页995-1001 IJCAI旧金山，加利福尼亚州，美国（1985）32. Sloman ， A. ： 机 器 意 识 的 替 代 方 案 。 International Journal of MachineConsciousness2（1），133. Sommerhoff，G.：意识被解释为一个内在的整合系统。意识研究期刊3（2），13934. Taylor，J.G.：意识的竞赛麻省理工学院出版社（1999）35. Th'orisson ， K.R. ，Kremel berg ， D. ， Steunebrink ， B.R. ，Ni vel ， E. ：Aboutunderstanding.在：Steunebrink，B.，Wang，P.，格策尔湾（eds.）人工智能。第九届通用人工智能会议（AGI 2016）。页10636. Wartofsky，M.W.：目的和技术：作为行动方式的模型。在：模型：表示和科学的理 解 ， 第 一 章 。 8 ， pp.140-153 Springer Netherlands ， Dordrecht.https://doi.org/10.1007/978-94-009-9357-037. Zeigler，B.，Muzy，A.，Kofman，E.：建模与仿真理论。离散事件迭代系统计算基础。出版社：Academic Press，3rd edn.（2018）38. Zeigler，B.P.：面向建模与仿真的形式化理论：保结构态射.J. ACM19（4），742