基于对话交互的领域模型增量学习"：巴黎萨克雷大学的博士论文

https://theses.hal.science/tel-01532754Vincent Letard0HAL编号：tel-015327540提交日期：2017年7月21日0HAL是一个多学科开放获取的档案库，用于存储和传播科学研究文档，无论它们是否已发表。这些文档可以来自法国或国外的教育和研究机构，或者来自公共或私人研究中心。0HAL是一个多学科开放获取的存储和传播科学研究文档的档案库，这些文档可以是已发表或未发表的，来自法国或国外的教育和研究机构，公共或私人研究中心。0基于对话交互的领域模型增量学习0引用此版本：0Vincent Letard. 基于对话交互的领域模型增量学习. 人工智能 [cs.AI]. 巴黎萨克雷大学（COmUE），2017.法语. �NNT : 2017SACLS100�. �tel-01532754�NNT : 2017SACLS1000博士论文0巴黎萨克雷大学0在巴黎南大学准备0第580号博士学位学校信息与通信科学与技术博士学位专业：计算机科学作者：V INCENT  L ETARD基于对话交互的领域模型增量学习0博士论文于2017年4月28日在巴黎南大学LIMSI 508号楼举行。0评审委员会组成：0M. P IERRE  Z WEIGENBAUM 研究主任（评委会主席） LIMSI CNRS M. P HILIPPE  L ANGLAIS教授（评委） Université de Montréal - RALI Mme I SABELLE  T ELLIER 教授（评委） Université Paris 3Sorbonne Nouvelle - LaTTiCe M. G ILLES  R ICHARD 教授（考官） Université Paul Sabatier - IRIT Mme SOPHIE  R OSSET 研究主任（博士导师） LIMSI CNRS M. G ABRIEL  I LLOUZ 讲师（博士导师） UniversitéParis-SudLe travail de thèse aurait été plus difficile sans l’environnement dont j’ai bénéficié au LIMSI, fer-tile aux discussions scientifiques, mais aussi épistémologiques, philosophiques, ou à propos de milleautres sujets parfois décalés. Je remercie pour cela chaleureusement tous les collègues, amis qui m’ontsoutenu et avec qui les discussions ont toujours été aussi diverses qu’enrichissantes : Munshi, Marine,Guillaume, Leonardo, Swen, Julien, Arnaud, Mohamed, Damien, Jose, Pierre, Arthur, Mathieu-Henri,Romain, Korantin, Jean-Baptiste, Sami, Sanjay, Rashedur, Olivier, pour n’en citer que quelques uns...Enfin, un grand merci à ma famille et mes amis pour leur soutien et leurs encouragements.0致谢0研究是通过大量的尝试来取得一些惊人结果的过程，对于博士生来说，这个过程更加艰辛，他必须同时掌握自己的研究领域、相关的方法论和科学界的规则。首先，我要感谢我的博士导师SophieRosset和GabrielIllouz，他们在研究的各个方面都给予了我宝贵的经验。我还要感谢他们对我科学选择的信任和支持。我深深地感激他们给我带来的能力和洞察力，这些都是我在这四年中所获得的。对于这一切，我深表感激。0我要感谢我的博士论文评审委员会的每一位成员，他们对我的论文评估给予了荣誉。感谢PhilippeLanglais、Isabelle Tellier、Gilles Richard和PierreZweigenbaum对我的工作的兴趣和非常有趣的评论。特别感谢Langlais先生在ICCBR会议上关于形式类比研究的现状和未来的激动人心的交流。0交流是科学研究的重要方面，因此我要感谢Olivier Galibert在算法领域的专业帮助，感谢FrançoisYvon在我对类比感兴趣的初期给予的指导，感谢ThomasLavergne在统计翻译模型方面的耐心解释，感谢PatrickParoubek与我长时间的讨论，对模型进行重新思考，还要感谢YvesLepage与我进行的非常有趣的形式类比交流。在我的博士期间，我有幸与Anne Vilnat、CécileBalkanski和HélèneMaynard一起教授计算机科学。我也要感谢她们三人在这个与研究相关的领域中的经验和建议。我还非常感谢Brigitte Grau在帮助我和经常审查我的工作方面，使我能够以良好的状态完成它。Table des matièresIntroduction9IObjectifs et positionnement151Contexte171.1Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .191.2Automatisation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .191.3Transfert d’un langage vers un autre . . . . . . . . . . . . . . . . . . . . . . . . . . .231.3.1Traduction automatique. . . . . . . . . . . . . . . . . . . . . . . . . . . . .231.3.2Transfert depuis la langue naturelle vers le langage formel . . . . . . . . . . .241.3.3Le transfert comme un problème de sélection . . . . . . . . . . . . . . . . . .251.4Interactivité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .261.4.1Modélisation du dialogue . . . . . . . . . . . . . . . . . . . . . . . . . . . . .261.4.2Systèmes de dialogue à but de communication sociale. . . . . . . . . . . . .281.4.3Systèmes orientés tâche. . . . . . . . . . . . . . . . . . . . . . . . . . . . .291.5Apprentissage interactif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .311.5.1PLOW : Un exemple d’assistant opérationnel incrémental. . . . . . . . . . .311.5.2Problématique : vers une première modélisation . . . . . . . . . . . . . . . . .322Collecte de bases d’exemples352.1Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .372.2Format . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .372.3Sources . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .382.4Méthodes de collecte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .392.4.1Corpus R : équilibré. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .392.4.2Corpus bash1 : reformulations . . . . . . . . . . . . . . . . . . . . . . . . . .392.4.3Corpus bash2 : indépendance des participants . . . . . . . . . . . . . . . . . .412.5Analyse des bases collectées . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .422.5.1Le problème de la représentativité . . . . . . . . . . . . . . . . . . . . . . . .422.5.2Analyses. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .442.6Conclusion et discussion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .493Étude préliminaire513.1Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .533.2Approche naïve par association directe et similarité de surface. . . . . . . . . . . . .533.2.1Topologie des associations . . . . . . . . . . . . . . . . . . . . . . . . . . . .543.2.2Sélection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .556TABLE DES MATIÈRES3.2.3Description de l’approche. . . . . . . . . . . . . . . . . . . . . . . . . . . .563.2.4Prétraitements syntaxiques . . . . . . . . . . . . . . . . . . . . . . . . . . . .583.3Application . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .583.3.1Comparaison des mesures de similarité. . . . . . . . . . . . . . . . . . . . .583.3.2Autoriser le silence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .593.3.3Combinaisons . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .603.4Conclusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .603.4.1Bilan. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .603.4.2Autre application à l’approche par similarité . . . . . . . . . . . . . . . . . . .61Bilan et nouvel axe de la problématique63IIL’analogie comme moteur d’inférence incrémental654Raisonnement par analogie formelle674.1Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .694.2Conventions de notation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .704.3Définitions et algorithmes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .704.4Optimisations et heuristiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .764.5Conclusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .805Analogie pour le transfert de langages835.1Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .855.2Transfert analogique direct . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .855.3Transfert analogique indirect . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .875.3.1Principe et algorithmes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .875.3.2Optimisations et heuristiques . . . . . . . . . . . . . . . . . . . . . . . . . . .895.4Complémentarité des approches. . . . . . . . . . . . . . . . . . . . . . . . . . . . .915.5Génération par analogie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .955.6Protocole expérimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .985.7Résultats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1005.7.1Base d’exemples bash1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1005.7.2Comparaison avec les bases R et bash2 . . . . . . . . . . . . . . . . . . . . . 1035.7.3Remarque sur les indicateurs considérés . . . . . . . . . . . . . . . . . . . . . 1055.8Conclusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1066Relâcher les contraintes analogiques1096.1Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1116.2Résolution analogique approchée . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1126.2.1Dissimilarité analogique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1126.2.2Application dans un cadre plus général. . . . . . . . . . . . . . . . . . . . . 1136.3Recherche approchée de proportions . . . . . . . . . . . . . . . . . . . . . . . . . . . 1146.4Confrontation aux données de la tâche . . . . . . . . . . . . . . . . . . . . . . . . . . 1176.4.1Mise en place expérimentale . . . . . . . . . . . . . . . . . . . . . . . . . . . 1176.4.2Résultats sur la base bash1 . . . . . . . . . . . . . . . . . . . . . . . . . . . 1186.4.3Résultats sur la base R . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1186.4.4Résultats sur la base bash2 . . . . . . . . . . . . . . . . . . . . . . . . . . . 1216.5Conclusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122TABLE DES MATIÈRES76.5.1Discussion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1226.5.2Bilan. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1237Vers un apprentissage incrémental1257.1Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1277.2Protocole expérimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1287.3Influence de l’ordre d’apprentissage . . . . . . . . . . . . . . . . . . . . . . . . . . . 1297.4Arrêt subit de l’apprentissage . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1317.5Introduction d’un utilisateur nouveau . . . . . . . . . . . . . . . . . . . . . . . . . . . 1327.6Extension automatique de la base d’exemples . . . . . . . . . . . . . . . . . . . . . . 1337.7Comparaison avec les bases R et bash2 . . . . . . . . . . . . . . . . . . . . . . . . . 1347.8Conclusion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136Bilan et pistes à l’étude1398.1Bilan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1418.1.1Transferts direct et indirect . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1418.1.2Extension des bases . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1418.1.3Relaxation. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1428.1.4Incrément . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1428.2Pistes de segmentation à l’étude. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1438.2.1Motivation et enjeux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1438.2.2Approches. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1448.2.3Bilan et pistes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148IIIConclusion149Conclusion générale et perspectives1519.1Contributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1539.1.1Recueil de bases d’exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . 1539.1.2Transfert depuis la langue naturelle vers le langage formel . . . . . . . . . . . 1539.1.3Vue d’ensemble des résultats . . . . . . . . . . . . . . . . . . . . . . . . . . . 1549.2Perspectives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1559.2.1Exploration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1559.2.2Exploitation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15609.2.3 Voies sur le long terme  . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1570Index 1580Bibliographie 1590ANNEXES 1690A Liste des publications 1710A.1 Publications en lien avec la thèse 1730A.2 Autres publications 17508 T ABLE DES MATIÈRES0B Guide de collecte d’associations 1770Introduction0我对你们所有的回答都有问题。0Allan Stewart Konigsberg010 I NTRODUCTION0I NTRODUCTION 110在人工智能领域的主题中，智能助手的主题自五十年前以来一直激发着研究人员设计模型，以改进人机交互以及人工学习和推理。智能助手也极大地启发了科幻小说，并在机器人或个人电脑等人工智能系统中找到了理想化的体现，如JARVIS，CASE/TARS，OS-One，C3PO，以及SIAAV1。它们代表了许多其他特征，这些特征被小说赋予了智能系统。这项工作的目标是在设计能够与人类自然交互的智能助手领域做出贡献。我们必须立即澄清，这项工作的目标显然不是实现一个具有复杂社交行为的系统，而是从丰富的想象力中产生的。我们的目标是为了对其行为的最明确定义方面做出贡献，例如对特定指令的系统反应，其评估是客观的，我们将重点放在其中最核心的问题上，即推理和学习能力。因此，我们将社交和情感方面的智能代理人排除在外，并将交互方式限制在仅限于书面交流。然而，我们对系统执行根据人类请求执行操作的能力，学习新任务，纠正自己的错误以及通过自然语言进行交互非常感兴趣。特别是，我们认为多功能性是智能助手的一个基本特征，并将其作为本工作的总体指导原则，即独立于人类使用的语言以及完成任务的机器架构。在列出的能力中，我们认为最重要的能力是系统的学习能力。我们不能假设我们能够了解一切，即处于无法学习新信息的情况，因为没有新信息。如果这对人类来说是真的，我们将先验地认为对于智能系统也是如此。更具体地说，新情况可能以用户的新表达方式或新任务的形式出现在系统中。这两种情况可能来自于用户对系统的表达或需求的变化，或者来自于用户的变化。因此，我们必须考虑系统的学习能力来应对这些情况。0多个来源可以获得新知识：实验，或与环境的互动，学习，或获取百科全书知识，以及教学，或与教师的互动。在智能助手的背景下考虑每个来源。实验是一种系统的但有风险的方法，它需要一个受保护的实验环境，即与使用环境无关。建立这种独立性有时很复杂，而且并不总是可能的。因此，最好避免系统自行进行实验，以发现例如永久删除目录是否能够满足用户的需求。学习涉及大量的理解和解释文献知识，以将其归纳到特定情况并提取出专业知识。这个问题涉及到诸如机器阅读、文本挖掘和知识提取等研究领域。然而，根据前面的评论，我们01. 我们可以认出各自作品中的角色：钢铁侠，星际穿越，她，星球大战以及佩恩的传奇。2.人脑和学习机器之间的潜在等价性问题属于哲学范畴，至少在神经学知识仍然不完整的情况下是如此。我们在这里并不打算解决这个问题，只是要强调任何知识集合的有限性：我们认为总会有例外情况出现。012 引言0我们不能假设百科全书式的信息源包含将来所需的所有知识。我们最多只能承认新知识将由相应领域的专家定期添加，就像维基百科一样。从这个角度来看，从需要专家干预的知识库中提取信息似乎与直接由专家进行教学是多余的，不同之处在于通过提取获得的知识以中间形式表达。教学允许教师/专家/专业人士直接向学习者传授知识，并将信息集成为学习者可重复使用的形式。这意味着，如果学习者是一个人工系统，那么数据存储可以从计算机系统中读取和复制，而不同于“生物系统”的情况。这个观点以及通过与一个或多个专家的按需交互来更好地掌握系统所需的知识添加的周期性的可能性，是我们选择教学作为智能助手的简单、可靠、动态和安全的知识来源的动机。当然，这假设教师是完全可靠的，并且只教授正确（被接受的）的知识。我们接受这个假设，但是不应忽视其在性能和伦理方面的后果。事实上，在这个假设下，系统可能会因为用户对知识库中没有错误而过度信任系统的选择而受益。此外，如果考虑到因疏忽或恶意而教授错误知识的风险，尤其是如果系统旨在与多个用户共享其能力，那么可能会出现伦理问题。0因此，我们考虑一个智能助手，通过与专家用户的增量学习来提高自己的能力。特别是，我们关注的是系统初始知识有限或为零的情况。可以将这种情况与图灵提出的情况进行比较[Turing,1950]，即一个孩子的知识起初是零，但通过与环境的互动学习来丰富或修正/完善知识[Tellier,2005]。然而，我们的方法不是为了模拟儿童面临的各个领域的全面学习，尤其不涉及自然语言表达的学习。我们的研究集中在特定领域模型的学习上，具体来说是系统助手对用户请求的非语言行动的改进。然而，对于专家用户来说，初始知识有限的助手的使用仍然具有吸引力，原因有几个。用户可以将智能助手作为非常规任务的辅助记忆，或者作为通过推理能力执行复杂任务的认知辅助，而用户只具有潜在知识。对于初学者用户来说，使用这样的助手的好处是在系统达到一定数量的知识和令人满意的性能后才会出现。为了实现我们设定的通用目标，知识的格式必须适用于通过用户提交的请求生成行动的任何方法。自然语言前提与预期结果之间的通用关联表示应该在存储之前最小化处理。我们使用自然语言字符串和要执行的指令序列之间的关联。这个指令序列的表达形式是一种形式化语言的字符串，使得机器可以系统地执行行动。系统的任务03. cerna-ethics-allistene.org4. Nous utilisons dans ce document le terme de "langue" pour désigner une langue naturelle, et celui de "langage" pourun langage formel afin de les distinguer. L’acception de "langage" tel que nous l’employons relève donc de la théorie deslangages et non de la psychologie sociale.0引言130因此，学习者的学习被表示为将自然语言字符串转换为形式语言字符串。因此，我们拥有一种以关联形式存在的知识库，智能助手可以利用这些知识来响应用户的查询。下一步是设计一种方法来组合这些知识，以便助手能够覆盖不仅仅是已经存在于知识库中的查询。我们建议使用形式类比推理。这是一种形式化的类比推理，也称为三比例法则或四比例法则，人类经常使用[Hofstadter和Sander，2013]。其原则是基于案例的推理，通过使用已知的示例来解决问题，从特定到特定。四个对象之间建立了类比关系，并且可以表达为：“A对B就像C对D”。因此，可以通过A与B和A与C之间的相应关系来预测对象D。我们将看到，形式类比推理可以从有限的示例集合中产生相关的答案。作为一种推理模式，它也易于理解，因为它是我们熟悉的推理模式的派生物。这两个主要原因是我们选择类比来进行自然语言和形式语言之间的转换的动机。0这项工作的贡献有几个方面。首先，为了评估所提出的模型，我们收集了一组将自然语言查询（法语）与形式语言命令（R和bash）相关联的示例。我们还研究了与收集此类关联可能相关的偏差，并尝试了不同的协议以限制最不希望的偏差。另一方面，我们提出了不同的从自然语言到形式语言的转换方法。我们开发了一种基于查询相似性的方法，作为基于类比的方法的参考。关于后者，我们首先提出了同时应用两种类型的解决方案，并强调了它在自然语言和形式语言之间的转换的特定情况中的价值。我们还考虑通过系统性类比生成来扩展示例库，并研究其对系统提供的响应的影响。其次，鉴于先前实验中相对较低的响应率，我们提出了放宽类比约束以减少自然语言表达中的噪声敏感性。最后，我们提出了一种通过增加知识来模拟与每次错误交互的专家用户的系统学习能力的研究协议。我们研究了从最初为空的知识库和从固定大小的知识库开始产生的学习曲线，以及向系统提交新用户的查询。0本文分为两个部分，共七章。第一部分对涉及的各种问题进行了详细介绍，并提供了对该主题的新视角。在第一章中，我们介绍了语言转换、交互式和学习型系统的现状。第二章详细介绍了我们进行的示例收集，并分析了与每个示例收集相关的不同偏差。第三章报告了使用基于查询与基础库的相似性的转换方法的结果。该章还提到了这种方法在将自然语言转换为形式语言的情况下存在的严重限制。因此，我们提出了使用类比来克服这些限制，并引入了第二部分。第四章14INTRODUCTIONest une in