没有合适的资源?快使用搜索试试~ 我知道了~
蜂巢中的意识人工智能:研究原理和框架概述
蜂巢中有意识人工智能的进化:研究原理和框架的概述David Sahner医学博士EigenMed首席科学官抽象。本文提出了一个研究潜在意识AI系统的框架,将自主、多任务、强大、高度智能和自适应系统(AMPHIA)视为一个更有可能通过合作行为、进化、经验、培训和教育获得意识和道德原则的1介绍随着人工智能能力的提高,机器开始表现出我们以前认为属于人类独特领域的特征,机器意识的问题变得紧迫。例如,随着机器变得越来越聪明,它们会自然地变得有知觉吗?如果是这样,对未来社会居民的安全和福利可能有什么影响?意识如何影响他们完成任务的能力或意愿?我们对这些生物又有什么义务呢?为了在一个安全和受保护的环境中开始回答这些问题,在高度智能、强大和自主的系统中,在意识意外出现之前,有理由考虑在受控和封闭的条件下促进机器意识进化的努力,并仔细研究它对功能能力和道德行为的影响这种方法还能在意识出现的早期阶段进行干预,这种干预倾向于人为的实践经验[10];也就是说,在个人指导下,在社会背景下快速可靠地实例化学习到的道德规范。通过这种方式,实现了两个目标:(1)主动了解机器意识对高度智能自主系统的利益-风险状况的潜在影响,以及(2)更有可能在这样的系统中,一个健全的道德指南针将引导紧急行为。虽然机器“醒来”的能力仍然是推测性的,但可以假设,人类意识进化的经验教训可以用来在机器中静止意识虽然不可能明确地引用一个确切的分水岭时刻,标志着现代人类意识在智人或其祖先中的开始,但人类意识很可能是在一个具体的文化背景下随着时间的推移而演变的,在这个背景下,配备必要的“湿件”的个体代理人这样的假设与Julian Jaynes在1999年的一次调查中所做的大量观察是一致的。2他的著作《两院制精神崩溃中的意识起源》,即使他的理论中所引用的意识的神经科学基础缺乏当前的支持。在构建体现意识特征的物理机器人之前,在一个浓缩的时间框架内模拟这样的进化轨迹除了进化,无论是虚拟的还是物理的,最初利用神经形态架构、多模态感知、特定类型的再强化学习以及人类意识的当前理论,在我们努力产生和研究机器中的涌现现象时,也可能是有用的。2自主、多任务、强大、高度智能和自适应系统(AMPHIA)赋予一个自主的、多任务能力的、强大的、高度(或超级)智能的和自适应的系统(以下简称AMPHIA)非凡的意识,可能会缓和未来社会居民面临的风险。一些出版物已经指出了这一点(见,例如,[11; 12])意识可能是移情和道德决策所必需的作为通过进化、经验、培训和教育学在社会框架中培养合作行为和道德原则的替代方案,道德准则可以在操作系统层面“从底层”构建到人工智能中形式化的逻辑使双重效果学说自动化(即,考虑到为了更大的利益而产生不可避免的伤害的必要性)已经被布林斯约德[4]所倡导,但还没有被提升到能够处理多种多样和更复杂的伦理困境的水平一台在众所周知的“电车问题”的有限背景下运行良好的机器无法解决人类经常面临的棘手道德困境的无限分离。在机器中实现一般道德策略(例如,功利主义)代表了给定计算需求的深刻的技术挑战。兴趣最近安装在验证技术,可以定义一个所有这些都表明,通过体验式学习(和教学)过程,将伦理原则传授给现象上有意识的机器具有潜在的重要性。在这里,为了与上面提到的其他人保持一致,我们主张,如果这种道德教育要有最好的成功机会,机器应该是现象上有意识的。除了上面概述的假设,即机器中的现象意识可能会增加道德行为的可能性,我们必须考虑意识对其他功能能力的潜在后果: 适应环境变化的能力。 履行先前掌握的任务和职责的能力或 具有人类想象力和创造力的能力。3创造力和想象力也可能与我们希望灌输给有意识机器的灵活和一般化道德行为的倾向有关。例如,换位思考的能力同样,一个最佳的道德解决复杂的人类或社会困境可能需要创造性的思维,如“碳税”的概念虽然创造力并不局限于意识领域,但现象意识的元素会影响人类的创造性输出,而充分或足够的意识意识已经被实验证明对即兴旋律的创作至关重要[1]。同样,如果普鲁斯特没有这种现象上的意识,他也不可能写出《寻找逝去的时光》创造力也许是最难在实验中验证的,但是,与其他类型的终点一样重要的是要认识到,如果创造力被评估为一个终点,那么它不应该被用作意识的操作标准之一,因为这会混淆任何试图将意识与创造力联系起来的分析。3创建一个Substrate如果现象意识对于在机器中成功灌输道德指南针至关重要,那么我们面临的问题是:我们如何构建或进化这样一种作为初始衬底(即,在进化范式下,我们可以一般的例子是: 皮质 “Claustrum [8]); 自我、环境和同类的模型; 记忆- 学习能力,包括创新形式的强化学习,能够实现更“人性化”或更具[6]),和/或支持已经假设为人类感知的基础的双向处理的神经网络体系结构(参见,例如,[13]) 自然语言处理和通信方式目标 虚拟化身、运动和以复杂方式与环境和同类直接互动的能力。4机器人蜂巢如果以人类历史为例,很可能在社会背景下的发展对于机器意识来说是必要的,4现代人类意识。人类意识是一种具体化的现象[14],它依赖于文化,因此,最终可能需要物理的具体化,尽管虚拟的具体化是否可以达到同样的目的还有待观察。如果机器中涌现的意识在社会环境中生根,那么必须记住,尽管进化和文化塑造在塑造人类现象学意识方面起到了重要作用,但进化的“自我”概念和复杂的社会行为并不能保证一种意识形式支持与我们自己的道德稍微相似的道德例如,在高度社会组织化的海栖动物中,选择压力主要施加在群体/群体而不是个人层面上,劳动分工导致了一种严格的种姓制度,在这种制度中,高度利他主义的女性工人与生殖活跃的女性工人区分开来,男性在交配后是可牺牲的[5]。这种对生命的“估价”与人类的道德规范是不相容的。在进化的机器人社会或蜂巢中的分化(即,适合于各种任务的表型)应该是可能的,并且可以基于高度进化和进化成功的hyperteran组织(某些群居蚂蚁和蜜蜂物种)的特征来预期。这种区分还可能增强面对恶意攻击时的复原力。例如,如果一个表型由于独特的漏洞而在恶意网络攻击期间被消除,则其他进化的表型可能在组选择压力下重新配置以承担功能上被消除的子组/表型的任务。人们可能会赋予此外,人们可以设想一个两阶段的过程,即在虚拟环境中的初始进化被取代,在取得初步成果后,在充满挑战,机遇和同类的砖和砂浆世界中的后期进化。最后,正如导言部分所建议的,通过在社会环境中学习、指导和教学法来逐步灌输道德可能有好处,就像孩子们被教导道德行为的原则一样。5认知意识和现象意识的实验测量在进化过程中的多个点上,人造代理人可以被跟踪社会发生,交流类型,并接受一系列测试以评估涌现意识的存在这些可能包括对意识的认知和现象方面的评估。管理某些特定测试的能力将取决于自然语言界面。如果产生了一种相当于人类“锁定”综合症的意识形式,后者也是可取的(我们因此更容易对潜在意识的存在发出警报下面的列表并不是最终的。55.1认知/功能意识我们正朝着“认知”或“功能”有意识的机器人迈进,它可以模拟自我和环境,推理,感觉(以一种无经验的方式),学习,并在行为上模仿意识的各个方面。从本质上讲,一个有功能意识的机器人将接近我们所认为的有意识,因为它通过了镜像测试(这已经发生),可以模拟其与环境的相互作用(这已经实现),以自主的方式智能地行为,形成抽象,计划,从错误中学习,甚至,潜在地,遵循一些基本的道德规则(附带条件是,如果不是不可能的话,也是非常困难的,使一个“功能意识”的机器人能够在处理无数潜在的道德困境时发挥人类的灵活性)。5.2意识和自我意识这在传统上被定义为对“红色”的欣赏下面的测试可能会询问现象意识和自我意识,我们包括其中一些,因为没有一个测试是100%敏感和特异的。我们如何巩固这一系列测试的结果布尔连接是可能的,或者是分量的某种加权平均。在人类和选定的动物物种中验证测量是必要的,尽管问题很棘手,因为最终,现象意识和自我意识的确定归属在技术上需要一个(目前不存在的)客观和商定的“黄金标准”,以验证测试结果。不幸的是,至少从科学的角度来看,现象意识是独一无二的主观性。考虑到这一点,这里列出了一些潜在的指标: “信息整合”的量化措施 情绪智力; 心理理论 “First-machine” accounts of its phenomenal experience 镜子试验; 暗示意识的行为能力,类似于图灵测试的 一台机器,显然是“感兴趣”或“希望”探索改变状态(通过改变自己的超参数或注入噪音),除了看起来像是“好奇心”和“欲望”之外,没有任何功能上的原因。“6拟定实验设计关键是要比较功能能力和道德/伦理行为和群体/亚群体的dispo- sitions。这既包括历史比较,6研究背景和平行前瞻性随访组和亚组如下所示:1. 控制组:缺乏任何形式意识的智能自治系统(基本情况或2. 进化的智能自治系统,有或没有努力产生人工实践能力作为可能的第二个对照组,我们可以考虑神经控制的虚拟动画[2]。Animats的虚拟进化已经被证明与信息整合水平的提高相关[3],这是一种假设的意识标记。基础系统(没有意识的智能自治系统)将能够完成一组预先指定的任务/目标。拟议框架建议逐步引入上文第3节所列要素或因素组。现象意识在没有社会背景下的进化的情况下,会自发地单独从底层产生,这是可能的,但值得怀疑。随着时间的推移,一旦所有计划的基质元素都被引入,实验的下一阶段我们假设,现象意识可能会演变/出现在连续几代使用这样的策略。进化规划的类型需要仔细选择。在监测意识发展的潜在证据的同时,人们可以观察无私或利他行为的实例如果发现原始意识的出现(例如,现象意识的原始形式)出乎意料地与不期望的属性(例如,极端行为的易变性与其他机器人的破坏),则可以采取适当的步骤。最近,人们对电车问题的各种变体进行了评估,以探索自我与他人牺牲的相对道德价值[7]。可以想象,这种测试的机器适应版本可以在未来进行。7结论本文提出了一种研究潜在意识AI系统的结构。该框架的主要思想是在受控条件下促进AMPHIA的进化,以研究其对功能竞争和道德行为的影响,以及人工实践的潜在益处其中一些演变发生在silico(虚拟)中,可以选择过渡到可演变的硬件,其中嵌入了在早期研究阶段确定的功能有用的软件。在系统的进化过程中,考虑任何系统本身可能承担的伦理义务是非常重要的,因为它似乎证明了现象意识的证据,特别是感觉。虽然本文的一个基本原则是,社会互动是意识进化的一个必要因素,类似于(神经典型的)当代人类-或者,也许是某些其他社会动物-意识在社会性较低的生物中的存在,如北极熊,一些较大的7不能排除负鼠、犰狳和其他物种。然而,即使是这样的动物(例如熊)也不是完全不合群的。关于孤独的动物意识的讨论超出了本文的范围,但这种意识形式很可能与人类的意识形式大不相同然而,机器意识也可以这么说,即使它确实通过进化、社会和文化机制,类似于当代人类的意识和自我。社会互动在多大程度上支持了机器意识,这可以通过社会认知来研究,但在作者看来,在“有效的机器意识”的背景下进行这样一个实验的伦理然而,识别有效的机器意识可能具有挑战性,特别是如果有意识的自我被赋予了与我们自己不同的高级心理结构,由与我们只能想象的感觉模态相联系的原始现象经验提供信息维恩图(人类与机器的意识)中的重叠程度还有待观察,但这种交叉的程度可能与人类和有感知能力的机器之间的互动范围、体现的相似性以及我们提供的伦理指导有关。致谢作者要感谢SRI International于2017年组织的技术意识系列研讨会的参与者他还感谢评论者的反馈和宝贵的建议。引用1. 鲍迈斯特河,Schmeichel B.和Dewall N.创造力和意识。In:P.Kaufman(Ed.),创造力的哲学(牛津大学出版社,2014)。2. DeMarse T.,Wagenaar D. Blau A.波特S. “The Neurally Auton Robots:11(2001):3053. Edlund J.,综合信息随着动物进化中的适应性而增加。PLOS Computational Biology:7(2011).4. Govindarajulu N.,布林斯约 “On Automating the Doctrine of Double IJCAI(2017年)5. 霍尔多布勒湾和威尔逊执行官 《超有机体:昆虫社会的美丽、优雅与奇异》诺顿,2008年。6. Machado M.,Bellemare M.,保龄球N。“A Laplacian Framework for Option Discover-ery in Reinforcement Learning.”Proceedings of the34th International Conference onMachine Learning,Sydney,Australia,PMLR 70(2017).7. Sachdeva S.,伊利耶夫河,Ekhtiari H.,代加尼湾“自我牺牲在道德困境中的作用。PLoS ONE:10(6):e0127409.doi:10.1371/journal.pone.0127409(2015). 可从:https://www.researchgate.net/publication/279448498_The_Role_of_Self-Sacri-_in_Moral_Dilemmas[访问日期:2018年12月4日]。8. Sahner D.“自我向何处去:意识的基础及其对诗学的影响。Journal of ConsciousnessExploration and Research:4(2013):856-873.89. 施耐德湾“有人在家吗?一种了解人工智能是否具有自我意识的方法。美国科学博客(2017):https://blogs.scientificamerican.com/observations/is-anyone- home-a-way-to-find-out-if-ai-has-become-self-aware/10. Sullins J.《Artificial Phronesis and the Social Robot》“见:J. Seibt等人(编辑),《社交机器人可以和应该做什么》(What Social Robots Can and Should Do,IOS Press,2016)11. 托兰斯湾“人工智能中的伦理与意识”AI Soc:22(2008):495- 52112. Wallach W.,艾伦·C富兰克林S. International Journal of Machine Consciousness:3(2011):177-192.13. 徐 东 , Clappison A. , 塞 斯 ·COrchard , J. IEE ETr a n s a c t i o n s onNe u r a lNe t w o r k s an d Le a r n i n g Sy s t e m s : 29 ( 20 1 8 ) : 41 4 0 - 41 5 114. 泽布罗夫斯基河(2010年)。与世界对话。 JCS:17(2010):156-172.
下载后可阅读完整内容,剩余1页未读,立即下载
cpongm
- 粉丝: 4
- 资源: 2万+
上传资源 快速赚钱
- 我的内容管理 收起
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
会员权益专享
最新资源
- zigbee-cluster-library-specification
- JSBSim Reference Manual
- c++校园超市商品信息管理系统课程设计说明书(含源代码) (2).pdf
- 建筑供配电系统相关课件.pptx
- 企业管理规章制度及管理模式.doc
- vb打开摄像头.doc
- 云计算-可信计算中认证协议改进方案.pdf
- [详细完整版]单片机编程4.ppt
- c语言常用算法.pdf
- c++经典程序代码大全.pdf
- 单片机数字时钟资料.doc
- 11项目管理前沿1.0.pptx
- 基于ssm的“魅力”繁峙宣传网站的设计与实现论文.doc
- 智慧交通综合解决方案.pptx
- 建筑防潮设计-PowerPointPresentati.pptx
- SPC统计过程控制程序.pptx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功