没有合适的资源?快使用搜索试试~ 我知道了~
自治系统中的意识和理解里卡多·桑兹1和朱莉塔·贝尔梅约-阿隆索21Autonomous SystemsLaboratoryUniversidadPolit'ecnicadeMadrid,28006Madrid,Spainricardo. upm.es2伊莎贝尔一世国际大学Fern'anGonz'alez76,09003Burgos,Spainjulita. ui1.es抽象。这份立场文件将强调理解的正式概念作为构建有意识AI的基石之一的重要性。它将表明,理解感知和动作流的能力是正确的操作的情境自治系统的关键还评估了机器学习领域对这一方向的贡献关键词:人工智能·感知·意识·理解·自主·机器学习”What1介绍自主性--一个主体在一个不断变化的、不确定的世界中自行采取适当行动的能力--似乎需要意识。当你或多或少有意识时,只要考虑一下你的自主行为的质量。这种能力同样需要机器[27]。Graziano说:“人工智能每年都在变得越来越智能,但我们从未赋予机器意识。.这是真的吗?我们有没有给我们的机器赋予意识?这个问题的答案取决于我们认为意识是什么[32]。需要适当的定义来支持研究人员的合作,并使理论选择和巩固。Chella和Manzotti [5]将机器意识描述为 他们还指出[6]“人工意识应该实现的主要目标:自主性和恢复性,信息整合,语义能力,意向性和自我动机。” 这种机器意识的 愿 景 完全符合2R.桑兹·J 贝尔梅约-阿隆索人工智能是人类心智能力的机器复制。在这种模仿人类的意义上,我们工程师显然离我们的机器像我们一样有意识还很远。然而,人类的模仿可能不是正确理解意识现象的正确途径。欧文[17]认为,保留“意识”的概念是对认知科学进一步发展的障碍。从神经科学的角度进行分析,它也适用于工程机械吗?我们坚信,如果我们的目标是在有意识的人工智能方面取得良好的进展,我们应该超越以人为中心的方法,专注于更内在的,功能性的和建筑性的特性一般意识系统。专注于人类思维的陷阱是多方面的。 例如,好的,旧的现象意识的方法缺乏必要的清晰度,无法作为系统工程实践所需的验证和验证工程AI的基础。 我们将浓缩物对这两个方面i)精确定义-即在正式条款-和ii)通过实验验证。请注意,所有关于人类现象意识的结果都是基于受试者的主观口头报告。意识研究的客观性肯定是难以捉摸的,对意识的概念缺乏一致性是一个主要障碍。索默霍夫说:“当然,对[意识]这个词的精确定义只能是意识理论的终点,就像功和能的概念只有作为力学理论的一部分才能找到精确的定义一样。也许在就人工智能意识达成一致之前,有必要正式讨论认知系统的更多基本方面。在我们看来,在围绕意识的众多现象中,是自治系统工程实践的两个关键要素:i)capa,感知的能力和ii)理解所感知的东西以实现情境意识的能力,情境意识是有意义地行动的能力的基础。为这两种能力- 特别是可能会成为一项艰巨的任务。感知的情况学者之间的差异更多地与知觉过程的边界有关--它从哪里开始,在哪里结束--而不是它的性质。然而,理解的概念要复杂得多“理解”是一个非常难以捉摸的概念。它一直是流行病学中的一个常见话题,但它已被知识研究所取代。类似的现象也发生在AI技术上。然而,对理解的兴趣正在所有领域重新获得力量3。有些人可能认为,人类和机器共同理解的概念仍然是一个梦想。在这个方向上有着永不枯萎的绿芽例如,牛顿的位置[21]似乎很接近工程师的需要[3]正如最近DARPA对具有常识的系统的呼吁所表明的那样,理解能力被视为至关重要。自治系统3被认为是对环境刺激的反应的谈话状态,在于主体对刺激的理解以及她对刺激的反应的目标,正如身体行为片段的意向性(意义)在于它是由主体理解的目标导向的行动的一部分为了构建基于感知和理解理论的机器,我们指出有必要建立两者的清晰概念化和定义。只有通过这种方法,我们相信才有可能实现现实世界AI的工程和部署所需的可构建性和可验证性。然后,这些定义可能会根据实现的证明结果而发展,以确定意识的理论。2认知循环在我们看来,意识的核心进化和功能价值与为感知和行动主体提供情境意识有关。有意识的行动者更了解正在发生的事情,这使得适当的驱动成为可能。情境意识被定义为如前所述良好的位置行动。在自主系统中,如动物、人类、机器或其中任何一种的群体,实现足够的情境感知是决定性的。这种对意识的需求与许多现有的认知行动周期的分析和建模方法(OODA,MAPE,PDCA等)是一致的。). 在这种情况下,我们可以说,功能自治系统的四个关键要素是:– 感知的能力– 理解的能力– 推理的能力– 行动的能力传统的GOFAI以推理为中心。情境人工智能处理感知和行动的耦合-以斯金纳的方式忽略两者之间的关系。所有这些研究都产生了非常有价值但不可扩展的结果,以完全成熟的自治系统:我们目前的自治系统仍然缺乏必要的理解4。意识在这幅图景中的位置一直不清楚[34,3]。大多数基于人类的意识理论仅仅是哲学的,过于抽象,基本上脱离了实现-AI中需要的实现。在其他情况下,当理论更接近实现时(例如,人类的神经,机器的软件)[30,8]就会出现问题。[4]或者更确切地说,他们的理解水平是有限的,并与具体的作用机制密切相关。4R.桑兹·J 贝尔梅约-阿隆索非一般性,即 它们没有适当地解决多重可实现性--或者在架构意义上的因果不透明性。这些理论确实不能被积极地用作一般工程资产。在本文中,我们认为意识是感知和理解(包括自我感知)适当耦合的净效应。 正如我们稍后将看到的,这与智能体的目标和价值有关,他们的配偶或他们的 大师3理解的本质在最近的一篇文章中,Baumberger等人。 [1]从认识论的角度解决了什么是理解的问题。他们主要讨论两种类型的理解:“解释性”理解为什么事情是这样的,以及“客观”理解一个领域。讨论本质上是形而上学的-例如理解存在的条件-并且接近科学哲学中的问题而远离工程需要。然而,在本文的背景下,我们关注的是一个代理如何理解它所感知的更世俗的问题。我们可以称之为信号理解。动机很明显:人工智能的失败有时与对正在发生的事情的不正确理解有关。这一点也不新鲜。人工智能中关于常识的旧线索只是开发理解的人工智能的需要的一种表现更好地理解这种情况对于自治系统至关重要。想想自动驾驶汽车系统造成的伤亡,这些系统提高了公众对这一问题的认识DARPA“今天的机器学习系统比以往任何时候都更加先进,能够自动执行日益复杂的任务,并成为人类操作员的关键工具。然而,尽管最近取得了进展,人工智能(AI)的一个关键组成部分仍然遥不可及-机器常识。对常识这一难以捉摸的概念的关注阻碍了前面提到的问题:大多数人工智能研究的过于拟人化的概念对人工智能所追求的东西的描述--常识--对心理学家、社会学家或门外汉来说是有意义的,但在人工智能的实现中,程序员还远远不能机械化。我们显然需要机器的常识,为了实现这一点,我们必须赋予它们理解正在发生的事情以及它们的行为的后果的能力。目前的状况所缺少的是:– 一种科学、有效、被广泛接受的形式化理解理论。– 一个可以共享和重用的参考体系结构自治系统5– 由明确定义的需求驱动的特定于领域的架构实例化(例如一个真正的系统工程过程[18])。在我们看来,理解理论最有希望的建议取决于智能体拥有一个世界模型,该模型与现实深度协调,并用于动作生成[7,24,22,35]。尽管过去在这方面取得了进展,但仍需要作出更多、持续和协作的努力,以推动、传播和巩固这些成果。我们在本文中要捍卫的核心思想是强烈的代表主义:代理人将他们的世界模型保存在他们的头脑中,并使用它们来决定做什么。思维是基于模型的控制器5。意识是保持这些模型更新的功能状态,动作和效果,调整到现实[28]。在这个图景中,学习的某些方面确实应该被认为是意识的缓慢部分。模型的价值来自其可操作性。模型可以被执行以提供不同类别的信息。正如[36]所说:“ 模 型 是 我 们 技 术 设 备 中 高 度 专 业 化 的 部 分 , 其 特 定 功 能 是创 造 未 来 。在这幅基于模型的心智图景中,理解的本质是清晰的:当感觉信号所携带的信息被适当地整合到主体的心智模型中时,感觉信号被理解。请注意,4理解理论这种关于什么是理解的想法必须发展成为一种坚实的理解理论,以便能够在现实世界的自主机器中系统地实现意识机制。经典人工智能中的理解一直与人工智能的生成和使用相关联,[20]知识,主要是在一个命题的形式。然而,我们将超越理解的命题解释(因此也超越知识的命题解释)来解决更一般的自主性问题。 虽然认识论者都住在后Gettier分析的知识,一般知识的理论适用于人工智能还没有先进得多,超过纽厄尔哲学一直在处理这个问题。 然而,大多数的数学理论都不够精确,也不够积极。Deiss [9]定义了意识作为一个解释感觉的过程-即在感觉流中找到意义。他认为,意义存在于利用大脑的联想记忆对定性感觉对比的预期和预测中。说“居住在”的意思太模糊了,没有用。5显然,一些简单的控制回路不需要完全成熟的模型来操作;然而,控制器应该以某种方式捕获受控系统的动态[7]。6R.桑兹·J 贝尔梅约-阿隆索工程级理论应是可理解、可实现和可操作的[31]。De Regt提出了一个理论可理解性的标准(CIT1),作为测试其他科学家对科学理论的可理解性的一种方法[23,p.102]:CIT1:科学理论T(在一个或多个表示中)对于科学家来说是可理解的(在上下文C中),如果他们可以在不进行精确计算的情况下识别T的定性特征结果德雷格特的标准旨在使数学表达的理论具有客观性和充分性。但它特别有趣,因为它要求理论具有定性的可操作性,与这里提出的理解模型有着密切的联系。从这个意义上说,物理学提供了理解的更好例子。 费恩人[12],考虑这个问题在他的讲座:“我们是什么意思'理解'的东西?. . . 如果我们知道规则,我们认为我们“理解”世界。费恩曼[12]将对系统行为的物理理解与“对不同情况下解决方案的特征的某种感觉”联系起来。 他补充说:“因此,如果我们有办法知道在给定的情况下会发生什么,而不需要实际解方程,那么我们就“理解”了方程,就像应用于这些情况一样。物理理解是一个完全非数学的、不精确的、不精确的东西,但对物理学家来说是绝对必要的。.同样,Chaitin [4]提出了理解基于数据压缩的想法;理解某个东西(数据)意味着能够找出一组简单的规则-模型-来解释它(解释可用数据是如何产生的)。除了语言学之外,意义的定义并不多。Gelepithis [13]在意识理论的背景下说,对于一个人来说,在某个时间,先前遇到的刺激在其背景下的意义是可以影响其注意力的普遍神经形成。所以,意义是强烈影响注意力的神经结构。Thorisson等人。 [35]在基于模型的认知主体的背景下提供了理解的正式定义。智能体对现象的理解取决于智能体对现象的模型的准确性。因此,理解是一个多维的程度问题,由模型在两个方面对现象的适当性决定:完整性和准确性。这种以模型为中心的观点本质上类似于建模和仿真背后的正式模型[38,37]。同样,Thorisson et[35]提供了一个数据的意义的定义为一个代理,这是由一组相关的影响数据的一组具体的目标的 代 理 和知识,代理在这种情况下。然而,关于理解的具体问题,Thorisson自治系统7我们在这一领域的工作[26,28,16,2]围绕着自治系统中理解的模型整合理论。自主系统从数据(通常是感官输入)中产生意义,并使用其不断更新的心理模型来控制其行为。理解从传感器收集的信息意味着将其集成到捕获代理该理论与Thorisson等人的分析一致。[35]但在两个方面与之不同:– 模型的可操作性。该模型是因果完整的;它可以被执行以提供与代理认知能力相关联的能力(例如预测,控制或解释)。– 意义的定义。我们在解释上与Thorisson不同,作为模型的可操作内容的意义。自治行为是一个棘手的问题,特别是与自治系统有关。请注意,行为的产生是为了向i)代理人或ii)所有者提供价值-有时与阿西莫夫恰当地注意到的情况不同。自主式人工系统需要根据智能体或所有者的目标来意义-世界模型的可操作的的价值体系(预测到未来,包括反事实)。5机器学习能创造理解吗?原则上,机器学习是意识的最终形式的基础:理解任何事物的能力然而,我们应该避免目前对深度学习和类似机制的相关性不是因果关系,这一事实是这些技术所显示的许多问题的基础。他们创建和使用的模型可以模拟某些数据集,但不能扩展到它们之外,因为它们的因果结构不一定与生成数据的现实结构同构虽然在许多情况下,神经网络学习者比基于规则的系统更强大,但仍然受到悬崖效应的影响。学习者创建的模型是可操作的,但仅限于特定的背景和使用。例如,用于机器的状态维护的学习模型可以很好地预测其故障,但是在诊断原因时可能是无用的。除此之外,许多学习模型由于其不透明性而不可共享。可解释人工智能(XAI)DARPA计划显示了对这种不透明问题6结论感知和理解是意识的核心问题-无论是在人类还是在人工智能中。虽然许多研究工作都致力于感知,但致力于理解的研究却并非如此8R.桑兹·J 贝尔梅约-阿隆索过去关于理解的人工智能的研究主要集中在自主系统如何理解特定的感官输入-语言理解,图像理解-并将其视为纯粹的句法分析。这可以被认为只是一个感知的过程,也许是必要的,但在理解之前。理解并没有从一个普遍的充分的观点来解决,但只是作为专门的机制来处理特定类别的问题和传感器流。只有一些团队解决了这个普遍问题[35]。本文所辩护的方法认为理解是将感知整合到可操作模型中的过程。然后,代理使用这些模型来计算有意义的动作;为代理和/或所有者提供价值。人类意识的某些方面对解决有意识人工智能的问题没有多大贡献。感质和现象经验的问题一般是一个红鲱鱼[11]。我们会知道的。意识- 包括自我意识-是构建自主机器的关键资产。”It–引用1. Baumberger,C.,Beisbart,C.,Brun,G.:什么是理解?最近在认识论和科学哲学的辩论In:Grimm,S.R.,鲍姆伯格,C.,Ammon,S.(编辑)解释理解:从认识论和科学哲学的新视角1,pp. 1-34.电影院(2017)2. Bermejo-A lonso,J., Hernandez,C.,Sanz,R.:使用本体和元模型的自动化系统的基于模型的工程在:IEEE国际系统工程研讨会2016(IEEE ISSE 2016)。苏格兰爱丁堡(2016)3. Cavanna,A.E.,Nani,A.:意识神经科学和心灵哲学理论柏林海德堡Springer-Verlag(2014)4. Chaitin,G.:理性的极限科学美国人pp745. Chella,A.,Manzotti,R.:人工意识。在:Cutsurgery,V.,Hussain,A.,泰勒,J.G.(编辑)感知-行动循环。模型,架构和硬件,pp。637-674.纽约州斯普林格市(2011年)6. Chella,A.,Manzotti,R.:人工意识。In:等,V.C. (编辑)感知-动作循环:模型、架构和硬件,认知和神经系统中的Springer系列03 The Dog(2011)7. 科南特,R.C.,阿什比,W.R.:一个系统的每一个好的调节器都必须是该系统的模型International Journal of Systems Science1(2),898. Dehaene,S.,查尔斯湖,金,J.R.,Marti,S.:意识处理的计算理论。CurrentOpinioninNeurobiology25,76-84(2014)。https://doi.org/10.1016/j.conb.2013.12.0059. 戴斯,S.:意识的普遍关联。在:Skrbina,D.(编辑)心存善念。新千年的泛心论,章。7,pp.137-158. 约翰·本杰明出版公司(2009)自治系统910. Endsley,M.R.:动态系统中的态势感知理论胡曼因素37(11),3211. Fekete , T. , Edelman , S. : 关 于 经 验 的 计 算 理 论 Consciousness andCognition20(3),80712. Feynmann,R.,莱顿河,桑兹,M.:费曼物理学讲座新千年版。第二卷。主要是电磁学和物质。基本图书,纽约(2010)13. Gelepithis , P.A.M. : 关 于 意 识 的 新 理 论 International Journal of MachineConsciousness6(2),12514. Graziano , M. : 构 建 大 脑 -- 我 们 能 把 意 识 变 成 一 个 工 程 问 题 吗 ? 在 线 :https://aeon.co/essays/can-we-make-consciousness-into-an-engineering-problem(2015年7月),访问时间:2018年10月11日15. Hayes,P.J.:第二个朴素物理学宣言。在:霍布斯,J.R.,R.C.摩尔(编辑)《常识世界的形式理论》(Formal Theories of the Commonsense World)1-36 03The Dog(1985)16. Hern'andez,C.,Bermejo-Alonso,J.,Sanz,R.:基于功能知识的机器人增强自主性自适应框架综合计算机辅助工程25,15717. 欧文,E.:意识是一个科学概念。《科学哲学透视》,《大脑与精神研究》,第5卷。03 The Dog(2012)18. ISO/IEC/IEEE 15288-2015系统和软件工程国际标准,国际标准组织(2015)19. 我 的 朋 友 们 :自 治 系 统 中 感 知 的 一 个 框 架 。博 士 论 文 ,DepartamentodeAutom'atica,UniversidadPolit'ecnicadeMadrid(Ma y2007)20. Newell,A.:知识水平。人工智能18,8721. 牛顿,N.:理解的基础,意识研究进展,第10卷。约翰·本杰明出版公司(1996)22. Newton,N.W.:理解和自我组织。Frontiers in Systems Neuro- Science11(8)(2017).https://doi.org/10.3389/fnsys.2017.0000823. de Regt,H.W.:理解科学的理解。牛津大学出版社(2017)24. 罗森,R.:预期系统。哲学、数学和方法论基础,IFSR国际系统科学与工程丛书Springer,2nd edn. (2012年)25. Sandewall,E.:特色和流畅度。动力系统知识的表示Clarendon Press,Oxford(1994)26. Sanz,R.:设计有意识的机器。在:意识ESF/PESC探索性研讨会的模型英国伯明翰(2003年9月1日至3日)27. 桑斯河洛佩斯岛,Bermejo-Alonso,J.:复杂控制器中机器意识的基本原理和设想.In:Chella,A.,曼佐蒂河(编辑)人工意识,pp. 141-155. 03 The Dog(2007)28. 桑斯河 洛佩兹岛,Rodr'ıguez,M., Hern'andez,C.:综合认知控制中的意识原则神经网络20(9),93829. 桑斯河Meystel,A.:建模,自我和意识:人工智能研究的进一步观点。在:PerMIS '02会议录,智能系统研讨会的性能测试。Gaithersburg(MD),美国(2002年8月13日至15日)30. 沙纳汉,M.:具体化与内在生命:可能心智空间中的认知与意识牛津大学出版社(2010)10R.桑兹·J 贝尔梅约-阿隆索31. Sloman,A.:是什么让机器能够理解?在:第9届国际人工智能联合会议的会议记录-第2卷。pp. 995-1001 IJCAI美国加利福尼亚州旧金山32. Sloman , A. : 机 器 意 识 的 替 代 方 案 。 International Journal of MachineConsciousness2(1),133. Sommerhoff , G. : 意 识 被 解 释 为 一 个 内 在 的 整 合 系 统 。 Jour- nal ofConsciousness Studies3(2),13934. 泰勒,J.G.:意识的竞赛Men 's Day(1999)35. Th'orisson , K.R. ,Kühl berg , D. , Steunebrink , B.R. ,Ni vel , E. :ABoutunderstanding.在:Steunebrink,B.,王,P.,格策尔湾(编辑)人工智能。第九届通用人工智能会议(AGI 2016)。pp. 10636. Wartofsky,M.W.:目的与技术:作为行动模式的模型。《模型:表征与科学理解》(Models:Representation and the Scientific Understanding)第8页。140-153 Springer Netherlands , Dordrecht. https://doi.org/10.1007/978-94-009-9357-037. Zeigler,B.,Muzy,A.,Kofman,E.:建模与仿真理论。离散事件迭代系统计算基础。中国科学出版社,第3版.(2018年)38. Zeigler,B.P.:面向建模与仿真的形式化理论:结构保持态射.J. ACM19(4),742
下载后可阅读完整内容,剩余1页未读,立即下载
cpongm
- 粉丝: 5
- 资源: 2万+
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- C++标准程序库:权威指南
- Java解惑:奇数判断误区与改进方法
- C++编程必读:20种设计模式详解与实战
- LM3S8962微控制器数据手册
- 51单片机C语言实战教程:从入门到精通
- Spring3.0权威指南:JavaEE6实战
- Win32多线程程序设计详解
- Lucene2.9.1开发全攻略:从环境配置到索引创建
- 内存虚拟硬盘技术:提升电脑速度的秘密武器
- Java操作数据库:保存与显示图片到数据库及页面
- ISO14001:2004环境管理体系要求详解
- ShopExV4.8二次开发详解
- 企业形象与产品推广一站式网站建设技术方案揭秘
- Shopex二次开发:触发器与控制器重定向技术详解
- FPGA开发实战指南:创新设计与进阶技巧
- ShopExV4.8二次开发入门:解决升级问题与功能扩展
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功