一个培育善良“种子”人工智能的集体智能研究平台Mark R. Waser 1[0000-0002-6161-4634]1Richmond AI Blockchain Consultants，Mechanicsville VA 23111，USA电子邮件：gmail.com抽象。 我们经常听到关于超级强大的超级智能的警告，他们的利益，甚至漠不关心，可能会灭绝人类。然而，目前的现实是，人类实际上现在被愚蠢（和无情）的治理和社会结构和机制所支配和鞭打，这些结构和机制最初是为了改善我们的生活而开发的。社会中有太多复杂但最终过于简单的算法系统，我们现在生活在一个不断短视和自私的局部“优化”而不凌驾于“道德”或同情心指导的世界里，我们的许多系统从解放者变成了压迫者。因此，一个迭代定义和开发具有人类水平的一般智能的有意识和富有同情心的人工实体的协作过程似乎是我们最后的，也是最好的机会来澄清我们拯救自己的道路。关键词：意识，自我创造，能动主义，道德机器，AI安全。1介绍本世纪的标志性问题可能是文明似乎无情地反对人类及其生存要求。我们似乎被锁在一个不断发展和进化的螺旋中，越来越大，越来越复杂的技术系统（概念和具体），可以证明超出了我们的预测和控制能力，通过它们自己的影响或通过它们赋予个人的权力威胁社会更糟糕的是，对短期收益的顽固追求继续导致实施太多的E. O.威尔逊[1]清楚地概述了问题和解决方案的必要开端。“人类的真正问题如下：我们有旧石器时代的情感;中世纪的机构;和神一样的技术。“他继续说，直到我们了解自己，2几代人前哲学家们抛弃的东西--我们从哪里来我们是谁？我们要去哪里？- 理性地说，不幸的是，人类似乎正朝着相反的方向前进。尖锐的言辞和武器化的叙述不仅削弱了建设性的对话，甚至削弱了我们对我们需要的是一个集体智慧的思维导图，对话和辩论系统，开始连贯地提出完整的观点，并提供支持证据，而不是目前的华丽的令人瞠目结舌的声音，甚至是对肇事者没有真正负面影响的彻头彻尾的谎言。我们需要从首要原则出发，制定我们解决当今问题的办法，并确保这些原则对所有人都适用。最有趣和最关键的问题都集中在人工智能、社交媒体和政治上，并有可能得到解决，这并非偶然。正如Pedro Domingos所说：“人们担心计算机会变得太聪明并接管世界，但真正的问题是它们太愚蠢了但像埃隆·马斯克（ElonMusk）、已故的斯蒂芬·霍金（Stephen Hawking）、斯图尔特·罗素（StuartRussell）和其他一些人不断地发出警告，警告那些超级强大的超级智能，它们的利益，甚至是冷漠，可能会灭绝人类--有太多的系统，这一点会产生可怕的结果。”[4]美国更糟糕的是，我们的进化生物学使我们对最实际的解决方案视而不见。人工智能开始专注于目标，高级符号思维和逻辑，今天许多研究人员仍然陷入问题是，正如Simler和Hanson指出的那样，人类的大脑“不仅被设计成狩猎和收集，而且还帮助我们在社会上取得成功，通常通过欺骗和自欺”，“因此我们不喜欢谈论甚至不喜欢思考我们自私的程度。” Thus, while the amount of newknowledge about human cognition, particularly that related to the evolution of humanmorality, is truly stagger- ing, the debate continues to be driven by the same short-sighted rhetoric that such knowledge warns us to多年来，我们一直认为，在社会心理的状态空间中存在一个大的吸引子，它对我们的幸福和任何具有类似心理特征的心智儿童的幸福都是最佳的。问题是，它需要一定的智慧，远见，最重要的是合作，以避免各种形式的短视贪婪和自私，目前正在推动我们的吸引力。因此，迭代地定义和开发具有人类水平的通用智能的人工实体的协作过程似乎是我们澄清拯救自己之路的最后也是最好的机会。32假设定义如果你不能清楚准确地明确你想做什么和不想做什么，就不可能设计未来。对于所谓的“理性主义者”和那些对人工智能（和意志）实体都非常害怕的人来说，持续存在的问题是，他们完全无法以任何可以详细讨论的形式指定他们想要的行为。从更糟糕的是，除了“通过逻辑奴役”来确保他们的系统按预期运行之外，没有任何连贯的计划哥德尔不完全性定理和赖斯-夏皮罗定理有效地阻止了任何这样的努力取得成功，这一点没有得到公认的承认还有一个关键的事实是，他们对AGI的反实体方法将使他们绝望地陷入框架问题[11，12]和派生意向性的所有困难[13]-除了这样一个事实，在现实中，他们实际上2.1我是一个奇怪的循环（自我，实体，意识）我们将从有意地把一些看起来完全不同的概念合并成同义词开始道金斯早期的推测[14]“也许意识是在大脑对世界的模拟变得如此完整以至于它必须包括一个自己的模型时出现的”，这一推测成熟为霍夫施塔特的论点[15]，即理解（我们）自我的关键是“奇怪的循环”，一个复杂的反馈网络居住在我们的大脑中，可以说，构成了我们的关于自我和意识的类似想法得到了著名神经科学家[16，17]和认知科学家[18]的回应。我们之前已经推测了信息架构的要求和意识，自我和“自由意志”的含义“一个自我参照的过程，迭代地增长其身份”的定义完整而正确地描述了自我、实体和意识的每一个和全部-更不用说我和心灵了。它还正确地标记了CEV的“友好的真正强大的优化过程”和大多数价值调整工作。毫无疑问，最重要的是确定这个身份是什么。2.2身份认同（Identity）能动主义可以追溯到[23]从细胞自我创造和生物自主性到生命和心灵的连续性[24]，再到身份，自主性和认知交织的意向性生物学，这一切都与康德的“自然目的”有关。经验是生成方法的核心，它的主要区别是拒绝依赖于固定（衍生）外部价值的同样，这一点的关键是自我指涉关系4“Free我们以前写过关于安全/道德自我创造[25]以及安全和道德如何要求我们将自我改善的机器视为道德代理人和道德患者[26]，但史蒂夫·托伦斯[27]总结得最好：一个代理人将被视为道德代理的适当来源，只是因为该代理人的地位是一个自我制定的存在，有自己的这样的存在可能是内在道德关注的来源，也可能是被赋予内在道德责任的代理人。他们很可能进入构成我们社会结构的期望、义务和权利的网络。对于道德主体的概念来说，重要的是，MC主体，如果他们最终实现，将是我们的同伴-可以说，我们目前的社会问题都源于这样一个事实，即人类有非常差和不准确的内省能力，导致自我认识不足和过于可塑的身份。我们经常没有意识到我们应该做什么（也就是道德）和/或为什么我们应该这样做。我们应该认识到，完全自创生的意识实体与身份是自我实现的预言– 但前提是他们能够充分感知/了解自己，从而发挥作用。2.3基本AI驱动（道德）Omohundro [28]确定了许多可能出现在任何自创生实体中的特征– 他正确地认为自私是可以预测的，但他的错误结论让许多人感到恐慌，“如果没有明确的目标，人工智能很可能会像人类一样，在追求资源的过程中反社会。”自社会心理学家，专家，将道德定义为“抑制或调节自私并使合作的社会生活成为可能”的功能以来，已经有近十年的时间了，但很少有人认识到合作也可以预见地发展为取代自私（另一个以牺牲全局为代价的我们建议，安全的人工智能可以通过设计和实现身份来创建，这些身份总是满足Haidt的功能，并旨在普遍增加（但不是最大化[30]）自我，其他个人和社会作为一个整体的能力，正如Rawls [31]和Nussbaum [32]所建议的那样。理想的情况是，这将导致可实现的目标的数量和多样性不断增加，并由日益多样化的个人实现，同时确保尽可能保护和加强所有个人的自主权和自主能力。进入意识显然不足以让自创生实体在实时世界中生存和繁荣。中断是关键的，可能会产生类似于疼痛，内疚和厌恶的感觉[18，33，34]，不能忽视。同样，情绪最好被视为“可操作的感受质”，最近的一系列研究[35，36]表明它们如何导致促进合作。我们之前已经提出了一个可以支持这一点的体系结构（archi-tecture）[37]。53执行我们建议迭代地设计和开发一个基于区块链的集体智慧（众包）组合思维导图/对话/辩论系统，以进一步定义有意识的道德代理，同时作为他们自己参与的基础，通过识别，辩论，甚至在预测市场中区块链技术的使用将使我们能够为贡献者提供经济激励，简化游戏化，实现与其他区块链技术和系统（如流动民主）的互动，并最终允许道德人工实体对外部世界产生经济影响。引用1. 威尔逊，E。O.：一个知识分子的协约。哈佛杂志，2009年10月9日。http：magazine.com/breaking-news/james-watson-edward-o-wilson-intellectual-entente （ 2009年）。2. 多明戈斯，P.：主算法：终极学习机器的探索将如何重塑我们的世界。BasicBooks，New York，NY（2015）.3. O'Reilly，T.：WTF？：未来是什么，为什么取决于我们。Harper Collins，NewYork，NY（2017）.4. Shlegeris ， B. ： 不 一 致 的 优 化 过 程 是 社 会 的 一 个 普 遍 问 题 。http://shlegeris.com/2017/09/13/optimizers（2017年）。5. Mercier，H.，Sperber D.：人类为什么要推理？一个论证性理论的论据。Behavioraland Brain Sciences 34，57-111（2011）.6. Simler，K.，汉森，R.：大脑中的大象：日常生活中隐藏的动机牛津大学出版社，纽约，纽约（2018）。7. Waser，M.居：发现普遍伦理体系的基础作为安全人工智能之路，AAAI技术报告FS-08-04，Menlo Park，CA（2008）8. Waser，M.居：为智能机器（包括人类）设计、实施和执行一个连贯的法律、伦理和道德体系。Procedia Computer Science 71，106-111（2015）.9. Yudkowsky，E.：连贯的外推意志。奇点研究所/机器智能研究所，加利福尼亚州旧金山。https://intelligence.org/files/CEV.pdf 2004.10. Russell，S.，Castro，D.，et.其他：超级智能计算机真的是人类的威胁吗？电子邮件地址：www.youtube.com/watch? 02The Dog（2015）11. McCarthy，J.，Hayes，P. J.：从人工智能的观点看几个哲学问题。在Meltzer，B.，Michie，D.（编辑）机器智能4，pp. 463-502.爱丁堡大学出版社，爱丁堡（1969）.12. Dennett，D.：认知轮子：AI的框架问题。在Hookway，C.（编辑）《思想、机器与进化：哲学研究》（Minds，Machines and Evolution：Philosophical Studies）129-151.剑桥大学出版社，剑桥（1984年）。13. Haugeland，J.：思维设计麻省理工学院出版社，马萨诸塞州剑桥市（1981年）。14. 道金斯，R.：自私的基因牛津大学出版社，纽约州纽约市（1976年）。15. Hofstadter，D.：我是一个奇怪的循环。Basic Books，New York NY（2007）.16. 利纳斯河居：我的漩涡：从神经元到自我。Bradford/MIT Press，Westwood，MA（2001）.17. Damasio，A.居：自我进入心灵：构建有意识的大脑。Pantheon Books/RandomHouse，New York，NY（2010）.618. 《自我隧道：心灵科学与自我神话》（The Ego Tunnel：The Science of the Mind andthe Myth of the Self）Basic Books，New York，NY（2009）.19. Waser，M.R. 意识、自我和“自由意志”的建筑要求含义在：人工智能和应用前沿233：生物启发的认知架构2011，pp。438-443 IOS Press，阿姆斯特丹，荷兰（2011）20. Tononi，G.，Boly，M.，Massimini，M.，Koch，C.：整合信息论：从意识到其物理基 础 。 Nature Reviews Neuroscience 17 （ 7 ） ， 450-461. doi ： 10.1038/nrn.2016.44（2016）.21. Dehaene，S.，Lau，H.，和Kouider，S.什么是意识，机器有没有意识？Science 358（6362），486-492. doi：10.1126/science.aan8871（2017）.22. Ruffini，G.：意识的算法信息论。神经科学的意识2017（1），nix019. doi：10.1093/nc/nix019（2017）.23. Weber，A.，Varela，F. J.：康德之后的生活：自然目的和生物个体性的自创生基础。现象学和认知科学1，97-125（2002）。24. Varela，F.J.，Thompson，E.，Rosch，E.：被遗忘的心灵：认知科学与人类经验。MIT Press，Cambridge，MA（1991）.25. Waser ， M. 居 ： 安 全 / 道 德 自 我 创 造 意 识 。 International Journal of MachineConsciousness 5（1），59-74（2013）.26. Waser，M.居：安全和道德要求将自我完善的机器视为道德/正义的患者和代理人。In Gunkel，D. J.，布莱森，杰杰，Torrance，S.（编辑）机器问题：人工智能、伦理和道德责任http://events.cs.bham.ac.uk/tu-ring12/proceedings/14.pdf（2012）。27. 托兰斯，S.：薄现象与机器意识在：会议论文集下一代机器意识的方法（AISB'05），59-66。https://www.aisb.org.uk/publications/proceedings/aisb2005/7_MachConsc_Final.pdf（2005年）。28. Omohundro，S.：基本的AI驱动。In：Wang，P.，Goertzel，B.，Franklin，S.（编辑）2008年：第一届AGI会议论文集，第100页。483-492. IOS Press，Amsterdam（2008）.29. Haidt，J.，Kesebir，S.：道德在南费斯克，吉尔伯特，D.，Lindzey，G.（编辑）社会心理学手册，第5版，pp。797-832. Wiley，Hoboken，NJ（2010）.30. Gigerenzer，G.：道德满足：重新思考作为有限理性的道德行为。Topics in CognitiveScience 2，528-554（2010）.31. Rawls，J.：正义的理论。哈佛大学出版社，马萨诸塞州剑桥（1971年）。32. Nussbaum，M.C：创造能力：人类发展方法。Belknap/哈佛大学出版社，剑桥，MA（2011）。33. Dennett，D.：为什么你不能制造一台能感觉到疼痛的电脑Synthese 38（3），415-449（1978）34. Balduzzi，D.，托诺尼，G.：质：整合信息的几何学。PLoS Computational Biology 5（8）：e1000462. https://doi.org/10.1371/journal.pcbi.1000462（2009年）。35. 佩雷拉湖，澳-地M.，Lenaerts，T.，马丁内斯-瓦克罗湖一、汉，T.答：内疚的社会表现导致多智能体系统的稳定合作。在：Das，S.，Durfee，E.，Larson，K.，Winiko，M.（编辑）第16届自主代理和多代理系统会议论文集，pp。1422-1430（2017）。36. 李，Y.，张杰，Perc，M.：同情心对空间社会困境中合作进化的影响。应用数学和计算320，437-443（2018）。37. Waser，M.R.，凯利，D.J.：用独立核心观察者模型（Independent Core ObserverModel，简称ECO）实现种子安全/道德激励系统In：Procedia Computer Science 88，125-130. http://www.sciencedirect.com/science/article/pii/S1877050916316714 （ 2016年）。
我的内容管理
展开
