JDDC参赛方案：TF-IDF与生成式模型的优化历程

在"feel free - JDDC参赛方案总结1"中，参赛团队针对JDDC比赛提出了两种阶段性的策略和相应的算法模型。初赛阶段，他们采用了经典的自然语言处理方法——TF-IDF（Term Frequency-Inverse Document Frequency），这是一种衡量词语在文档集合中重要性的统计方法。TF衡量一个词在文档中出现的频率，而IDF则是文档频率的倒数，两者相乘可以减少常见词的权重，突出关键信息。在预处理步骤中，团队进行了数据清洗，合并连续角色的对话，并将对话结构标准化。 为了优化初赛的TF-IDF方案，他们增加了trigrams（连续的三个词序列）的文本特征，并对检索结果进行top10的重排序，排序依据除了TF-IDF得分外，还会考虑回答的长度。尽管尝试了多种其他方法，如BM25、word2vec和LSI，但最终发现TF-IDF经过优化后的表现最佳。 决赛阶段，团队意识到检索式方法效果不佳，因此转向了生成式模型。他们试验了seq2seq（Sequence-to-Sequence）模型，特别是结合了注意力机制、dropout和beam search的版本，其测评得分达到了0.56到0.6之间。此外，Transformer模型加上beam search方案的性能更为出色，得分超过了0.7。在这个阶段，团队认识到引入上下文信息至关重要，他们选择了“仅使用用户上一轮内容作为当前轮次context”的策略，这使得模型能处理单轮和多轮对话。数据集被转化为Qn-1Qn+An格式，同时保留了一部分仅包含后续部分的对话用于单轮评估，以保持模型性能的全面性。 总结来说，这个参赛方案体现了从传统检索式方法向现代深度学习生成式模型的转变，强调了预处理、特征工程和上下文理解在自然语言处理任务中的重要性。通过不断优化和调整策略，团队最终在比赛中取得了显著的进步。