一个培育善良“种子”人工智能的集体智能研究平台马克河 Waser 1[0000-0002-6161-4634]1Richmond AI Blockchain Consultants，Mechanicsville VA 23111，USA电子邮件：gmail.com抽象的。 我们经常听到关于超级强大的超级智能的警告，他们的利益，甚至漠不关心，可能会灭绝人类。然而，目前的现实是，人类实际上现在被愚蠢（和无情）的治理和社会结构和机制所支配和鞭打，这些结构和机制最初是为了改善我们的生活而开发的。社会中有太多复杂但最终过于简单的算法系统，我们现在生活在一个不断短视和自私的局部“优化”而不凌驾于“道德”或同情心指导的世界里，我们的许多系统已经从解放者变成了压迫者。因此，迭代地定义和开发具有人类水平的一般智能的有意识和富有同情心的人工实体的协作过程似乎是我们澄清我们拯救自己的道路的最后，最好的机会。关键词：意识，自我创造，行动主义，道德机器，人工智能安全。1介绍本世纪的标志性问题可能是文明似乎无情地反对人类及其生存要求。我们似乎被锁在一个不断发展和进化的螺旋中，越来越大，越来越复杂的技术系统（包括概念和具体的），可证明超出了我们的预测和控制能力，通过它们自己的影响或通过它们赋予个人的权力威胁社会更糟糕的是，对短期收益的顽固追求继续导致实施太多的大肠手术威尔逊[1]清楚地概述了问题和解决方案的必要开端。“人类的真正问题是：我们有旧石器时代的情感;中世纪的制度;和神一样的技术他继续这样说，直到我们了解我们自己，2几代人前哲学家们抛弃的东西--我们从哪里来我们是谁？我们要去哪里？- 理性地说，不幸的是，人类似乎正朝着相反的方向前进。尖锐的言辞和武器化的叙述不仅削弱了建设性的对话，甚至削弱了我们对我们需要的是一个集体智慧的思维导图，对话和辩论系统，开始连贯地提出完整的观点和支持证据，而不是目前的修辞令人瞠目结舌的声音，甚至是对肇事者没有真正负面影响的彻头彻尾的谎言。我们需要从首要原则出发，制定解决当今问题的办法，并确保这些原则统一适用于所有人。最有趣和最关键的问题都集中在人工智能、社交媒体和政治上，并有可能得到解决，这并非偶然。正如Pedro Domingos所说：“人们担心计算机会变得太聪明并接管世界，但真正的问题是它们太愚蠢了但像埃隆·马斯克（ElonMusk）、已故的斯蒂芬·霍金（Stephen Hawking）、斯图尔特·罗素（StuartRussell）和其他人不断发出警告，称超级强大的超级智能的利益，甚至漠不关心，可能会灭绝人类--有太多的系统，在这一点上会产生可怕的结果。”[4]更糟糕的是，我们的进化生物学让我们看不到最实际的解决方案。人工智能开始专注于目标，高级符号思维和逻辑，今天许多研究人员仍然陷入问题是，正如Simler和Hanson指出的那样，人类大脑“不仅被设计成狩猎和采集，而且还帮助我们在社会上取得成功，通常是通过欺骗和自欺”，“因此我们不喜欢谈论甚至不喜欢思考我们自私的程度。” Thus, while the amount of newknowledge about human cognition, particularly that related to the evolution of humanmorality, is truly stagger- ing, the debate continues to be driven by the same short-sighted rhetoric that such knowledge warns us to多年来，我们一直认为，在社会心智的状态空间中存在一个大的吸引子，它对我们的幸福和任何具有类似心智特征的心智儿童的幸福都是最佳的。问题是，它需要一定的智慧，远见，最重要的是合作，以避免各种形式的短视贪婪和自私，目前正在推动我们离开这个吸引力。因此，迭代地定义和开发具有人类水平的通用智能的人工实体的协作过程似乎是我们澄清拯救自己之路的最后也是最好的机会。32假设和定义如果你不能清楚准确地明确你想做什么和不想做什么，你就不可能设计未来。对于所谓的“理性主义者”和那些对人工智能（和意志）实体都非常害怕的人来说，持续存在的问题是，他们完全无法以任何形式详细讨论他们想要的行为。从更糟糕的是，除了“通过逻辑奴役”之外，没有任何连贯的计划哥德尔不完全性定理和莱斯-夏皮罗定理有效地阻止了任何这样的努力取得成功，这一点没有得到公认的承认还有一个关键的事实是，他们对AGI的反实体方法会让他们绝望地陷入框架问题[11，12]和所有衍生意向性的困难[13]-除了这样一个事实，在现实中，他们实际上2.1我是一个奇怪的循环（自我，实体，意识）我们将从有意地把一些看起来完全不同的概念合并成同义词开始道金斯早期的推测[14]“也许意识是在大脑对世界的模拟变得如此完整以至于它必须包括一个自身模型时出现的”，这一推测成熟为霍夫施塔特的论点[15]，即理解（我们）自我的关键是“奇怪的循环”，一个复杂的反馈网络居住在我们的大脑中，可以说，构成了我们的关于自我和意识的类似想法得到了著名神经科学家[16，17]和认知科学家[18]的回应。我们之前已经推测了信息架构的要求和意识，自我和“自由意志”的含义“一个自我参照的过程，迭代地增长其身份”的定义完整而正确地描述了自我，实体和意识的每一个和所有-更不用说我和心灵。它还正确地标记了CEV的“友好的真正强大的优化过程”和大多数价值调整工作。毫无疑问，最重要的是确定这种身份将是什么。2.2身份认同（Identity）能动主义可以追溯到[23]从细胞自我创造和生物自主性到生命和心灵的连续性[24]到身份，自主性和认知交织的意向性生物学，这一切都与康德的“自然目的”有关。经验是生成方法的核心，它的主要区别是拒绝“自动”系统，依赖于固定的（衍生的同样，这一点的关键是自我指涉关系4“自由意志”是通过自我纠正的身份成功地产生行为自主权的构成性自主权，该身份是互动领域的参考点（即，“自由意志”）。“赋予意义”）。我们以前写过关于安全/道德自我创造[25]以及安全和道德如何要求我们将自我改善的机器视为道德代理人和道德患者[26]，但史蒂夫·托伦斯[27]总结得最好：一个行动者将被视为一个道德代理的适当来源，仅仅是因为该行动者这样的人很可能是内在道德关注的来源，也可能是被赋予内在道德责任的代理人。他们很可能进入构成我们社会结构的期望、义务和权利的网络。对于道德能动性的概念来说，重要的是MC能动性，如果他们最终成为我们的同伴-可以说，我们目前的社会问题都源于这样一个事实，即人类的内省能力非常差和不准确，导致自我认识不足和身份过于可塑。我们经常没有意识到我们应该做什么（又名道德）和/或为什么我们应该这样做。我们应该认识到，完全自创生的意识&实体与身份是自我实现的预言– 但前提是他们能够很好地感知/了解自己，从而发挥作用。2.3基本AI驱动（道德）Omohundro [28]确定了许多可能出现在任何自创生实体中的特征– 正确地认为自私是可以预测的，但他的错误结论让许多人感到恐慌，“如果没有明确的相反目标，人工智能很可能会像人类反社会者一样追求资源。”自社会心理学家，专家们，将道德定义为“抑制或调节自私并使合作的社会生活成为可能”的功能以来，已经有将近十年的时间了-但很少有人认识到合作也可以预见地发展为取代自私（另一个以牺牲全局为我们建议，安全的AI可以通过设计和实现身份来创建，这些身份总是满足Haidt的功能，并旨在普遍增加（但不是最大化[30]）自我，其他个人和社会作为一个整体的能力，正如Rawls [31]和Nussbaum [32]所建议的那样。理想的情况是，这将导致可实现的目标的数量和多样性不断增加，并由日益多样化的个人实现，同时确保尽可能保护和加强所有个人的自主权和自主能力。进入意识显然不足以让自创生实体在实时世界中生存和繁荣。中断是关键的，可能会产生类似于疼痛，内疚和厌恶的感觉[18，33，34]，不能忽视。同样，情绪最好被认为是“可操作的感受质”，最近的一系列研究[35，36]表明它们如何促进合作。我们之前已经提出了一个架构（ICOM）[37]，可以支持这一点。53执行我们建议迭代地设计和开发一个基于区块链的集体智慧（众包）组合思维导图/对话/辩论系统，以进一步定义有意识的道德代理人，同时作为他们自己参与的基础，通过识别，辩论，甚至在预测市场中区块链技术的使用将使我们能够为贡献者提供经济激励，简化游戏化，实现与其他区块链技术和系统（如流动民主）的互动，并最终允许道德人工实体对外部世界产生经济影响。引用1. Wilson ， E. O. ： 一 个 知 识 界 的 协 约 。 哈 佛 杂 志 ， 2009 年 10 月 9 日 。 http ：magazine.com/breaking-news/james-watson-edward-o-wilson-intellectual-entente（2009）。2. 多明戈斯，P.：主算法：终极学习机器的探索将如何重塑我们的世界Basic Books，New York，NY（2015）.3. O'Reilly，T.：WTF？：未来是什么，为什么取决于我们。Harper Collins，NewYork，NY（2017）.4. Shlegeris ， B. ： 不 一 致 的 优 化 过 程 是 社 会 的 一 个 普 遍 问 题 。http://shlegeris.com/2017/09/13/optimizers（2017）.5. Mercier，H.，Sperber D.：人类为什么要推理？一个论证性理论的论据。Behavioraland Brain Sciences 34，57-111（2011）.6. Simler，K.，Hanson，R.：大脑中的大象：日常生活中隐藏的动机牛津大学出版社，纽约，纽约（2018）。7. Waser，M. R.：发现普遍伦理体系的基础作为安全人工智能之路，AAAI技术报告FS-08-04，Menlo Park，CA（2008）8. Waser，M. R.：为智能机器（包括人类）设计、实施和执行一个连贯的法律、伦理和道德体系。Procedia Computer Science 71，106-111（2015）。9. Yudkowsky，E.：连贯的外推意志。奇点研究所/机器智能研究所，加利福尼亚州旧金山。https://intelligence.org/files/CEV.pdf 2004。10. Russell，S.，Castro，D.，等人等：超级智能计算机真的是人类的威胁吗？https：www.youtube.com/watch? 02The Dog（2015）11. McCarthy，J.，Hayes，P. J.：从人工智能的立场看几个哲学问题。在Meltzer，B.Michie，D.（eds.）机器智能4，pp. 463-502.爱丁堡大学出版社，爱丁堡（1969）。12. Dennett，D.：认知轮：AI的框架问题在Hookway，C.（编）心智、机器与进化：哲学研究，pp。129-151.剑桥大学出版社，剑桥（1984年）。13. Haugeland，J.：思维设计麻省理工学院出版社，马萨诸塞州剑桥（1981）。14. 道金斯，R.：自私的基因牛津大学出版社，纽约，NY（1976）。15. Hofstadter，D.：我是一个奇怪的循环。Basic Books，New York NY（2007）.16. 利纳斯河R.：我的漩涡：从神经元到自我Bradford/MIT Press，Westwood，MA（2001）.17. Damasio，A. R.：自我意识：构建有意识的大脑。Pantheon Books/Random House，New York，NY（2010）.618. Metzinger，M：自我隧道：心灵的科学和自我的神话。Basic Books，New York，NY（2009）。19. Waser，M.室意识、自我和“自由意志”的建筑要求含义在：人工智能和应用前沿233 ： Biologically Inspired Cognitive Architectures 2011 ， pp. 438-443 IOS Press ，Amsterdam，The Netherlands（2011）20. Tononi，G.，Boly，M.，Massimini，M.，Koch，C.：综合信息理论：从意识到它的物理基础。Nature Reviews Neuroscience 17（7），450-461. doi：10.1038/nrn.2016.44（2016）.21. Dehaene，S.，Lau，H.，和Kouider，S.什么是意识，机器能拥有它吗？Science 358（6362），486-492. doi：10.1126/science.aan8871（2017）.22. Ruffini，G.：意识的算法信息论。Neuroscience of Consciousness 2017（1），nix019.doi：10.1093/nc/nix019（2017）.23. Weber，A.，Varela，F. J.：康德之后的生活：自然目的与生物个体性的自创生基础。现象学和认知科学1，97-125（2002）。24. Varela，F.J. Thompson，E.，Rosch，E.：具身心灵：认知科学与人类经验。MITPress，Cambridge，MA（1991）.25. Waser ， M. R. ： 安 全 / 道 德 自 我 创 造 意 识 。 International Journal of MachineConsciousness 5（1），59-74（2013）。26. Waser，M.R.：安全和道德要求将自我改善的机器视为道德/正义的患者和代理人。在Gunkel，D. J.布莱森，杰杰，Torrance，S.（eds.）机器问题：人工智能，伦理和道德责任。http://events.cs.bham.ac.uk/tu-ring12/proceedings/14.pdf（2012）。27. 托兰斯，S.：薄现象与机器意识。In：Proceedings of the Sym-on Next GenerationApproaches to Machine Consciousness（AISB'05），59-66.https://www.aisb.org.uk/publications/proceedings/aisb2005/7_MachConsc_Final.pdf（2005年）。28. Omohundro，S.：基本的AI驱动。在：Wang，P.，Goertzel，B.，Franklin，S.（ eds. ） 人 工 智 能 2008 ： 第 一 届 AGI 会 议 论 文 集 ， pp 。 483-492. IOS Press ，Amsterdam（2008）.29. Haidt，J.，Kesebir，S.：道德在Fiske，S. Gilbert，D. Lindzey，G.（eds.）社会心理学手册，第5版，pp。797-832. Wiley，Hoboken，NJ（2010）.30. Gigerenzer，G.：道德满足：重新思考道德行为的有限理性。Topics in CognitiveScience 2，528-554（2010）.31. Rawls，J.：正义的理论。哈佛大学出版社，马萨诸塞州剑桥（1971年）。32. Nussbaum，M.C：创造能力：人类发展方法。Belknap/哈佛大学出版社，剑桥，MA（2011）。33. Dennett，D.：为什么你不能制造一台能感觉到疼痛的电脑Synthese 38（3），415-449（1978）34. Balduzzi，D.，托诺尼，G.：质：整合信息的几何学。PLoS Computational Biology 5（8）：e1000462。https://doi.org/10.1371/journal.pcbi.1000462（2009年）。35. 佩雷拉湖M. Lenaerts，T.，马丁内斯-瓦克罗湖A. Han，T.答：内疚的社会表现导致多智能体系统的稳定合作。在：Das，S.，Durfee，E.，Larson，K. Winikoff，M.（eds.）第16届自主代理和多代理系统会议论文集，pp。1422-1430（2017）。36. Li，Y.，Zhang，J.，Perc，M.：同情心对空间社会困境中合作进化的影响。应用数学与计算320，437-443（2018）。37. Waser，M.R.，Kelley，D.J.：用独立核心观察者模型（ICOM）实现种子安全/道德激励系统In：ProcediaComputerScience88，125-130.http://www.sciencedirect.com/science/article/pii/S1877050916316714（2016）.
我的内容管理
展开
