[译] 用 Python 实现马尔可夫链的初级教程

马尔可夫链是一种随机过程，其中当前状态只取决于先前状态的概率分布。在自然语言处理中，马尔可夫链经常用于生成文本，模拟语言模型和预测下一个词语。

在本教程中，我们将使用 Python 实现一个简单的马尔可夫链来生成文本。我们将以一个简单的例子开始，该例子包含一个小型的文本语料库。然后，我们将使用这个语料库来训练我们的模型，并使用它来生成新的文本。

首先，让我们看一下我们的语料库。这里我们使用了莎士比亚的著作《仲夏夜之梦》。

I have had a most rare vision. I have had a dream, past the wit of man to say what dream it was. Man is but an ass if he go about t'expound this dream. Methought I was—there is no man can tell what. Methought I was, and methought I had—but man is but a patched fool if he will offer to say what methought I had. The eye of man hath not heard, the ear of man hath not seen, man's hand is not able to taste, his tongue to conceive, nor his heart to report what my dream was.

我们需要将这个文本转换成一个可以处理的数据结构。我们将把每个单词视为一个状态，并将每个状态的后继状态表示为一个字典。

让我们来看看如何实现这一点：

import random

class MarkovChain:
    def __init__(self):
        self.chain = {}

    def add(self, word):
        if word not in self.chain:
            self.chain[word] = {}

    def feed(self, text):
        words = text.split()

        for i in range(len(words) - 1):
            self.add(words[i])
            self.chain[words[i]][words[i + 1]] = self.chain[words[i]].get(words[i + 1], 0) + 1

    def generate(self, n):
        word = random.choice(list(self.chain.keys()))
        result = [word]

        for i in range(n):
            word = random.choices(list(self.chain[word].keys()), weights=list(self.chain[word].values()))[0]
            result.append(word)

        return ' '.join(result)

我们首先定义了一个 `MarkovChain` 类，其中包含一个名为 `chain` 的字典。`chain` 字典将每个单词作为键，并将其后继状态（即在语料库中出现在该单词后面的单词）表示为另一个字典。

我们还定义了三个方法：

- `add(word)`：向字典中添加一个新的键（即单词）。
- `feed(text)`：将文本添加到模型中。我们首先将文本分割成单词，并将每个单词添加到 `chain` 字典中。然后，我们查找每个单词的后继状态，并将它们添加到相应的字典中。
- `generate(n)`：生成一个由 `n` 个单词组成的新文本。我们首先随机选择一个单词作为起始状态，并重复以下步骤：从当前状态的后继状态中随机选择一个状态，并将其添加到结果列表中。最后，我们将结果列表转换回一个字符串并返回。

现在我们可以使用它来生成一些新的文本：

text = "I have had a most rare vision. I have had a dream, past the wit of man to say what dream it was. Man is but an ass if he go about t'expound this dream. Methought I was—there is no man can tell what. Methought I was, and methought I had—but man is but a patched fool if he will offer to say what methought I had. The eye of man hath not heard, the ear of man hath not seen, man's hand is not able to taste, his tongue to conceive, nor his heart to report what my dream was."

mc = MarkovChain()
mc.feed(text)

print(mc.generate(10))

输出结果可能是这样的：

I had a dream, past the wit of man hath not seen, man's hand is but an ass if he will offer to report what my dream was.```

这是一个非常简单的马尔可夫链实现，但它可以为我们提供一个很好的起点来探索更高级的模型和应用。