编写C语言程序，计算两个4bit数的乘积构成的集合的熵值，计算输入集合和输出集合之间的互信息熵

在C语言中，为了计算4位二进制数（0-15）的乘积集合的熵值以及输入和输出集合间的互信息熵，我们需要了解几个关键概念：

1. **熵值**：在信息论中，熵是一个度量不确定性的指标。对于一个离散随机变量X，其熵H(X)可以按照每个取值p(x)的概率计算，公式是 H(X) = -∑ p(x) * log2(p(x))。

2. **4位数乘积集**：首先需要生成所有可能的4位乘积，并统计每个乘积出现的次数。

3. **输入和输出集合**：这里假设输入是两个4位数，输出是它们的乘积。互信息熵I(X;Y)衡量了两个随机变量X和Y之间的独立性程度。

下面是一个简单的步骤概述：

- 定义两个数组（例如`input[16]`和`output[256]`）存储输入数和输出数的频率。
- 循环遍历4位输入数的范围，对每一对计算乘积并更新输出数组。
- 计算每个乘积的频率作为概率p(x)，然后计算总熵（输出集合的熵）和互信息熵。

以下是示例代码片段：

#include <stdio.h>
#include <math.h>

// 函数定义
double entropy(unsigned char* freqs, int size);
double mutual_information(unsigned char input_freqs[16], unsigned char output_freqs[256]);

int main() {
    unsigned char input[16];
    unsigned char output[256] = {0};
    
    // 初始化输入数频率
    for (int i = 0; i < 16; i++) {
        input[i] = i;
    }

    // 模拟计算乘积过程（简化示例，实际操作应包括循环）
    for (int i = 0; i < 16; i++) {
        for (int j = 0; j < 16; j++) {
            int product = i * j;
            output[product]++;
        }
    }

    double input_entropy = entropy(input, 16);
    double output_entropy = entropy(output, 256);
    double mi = mutual_information(input, output);

    printf("Input set entropy: %.3f\n", input_entropy);
    printf("Output set entropy: %.3f\n", output_entropy);
    printf("Mutual information: %.3f\n", mi);

    return 0;
}

// 密码学函数，计算给定频率数组的熵
double entropy(unsigned char* freqs, int size) {
    double total = 0.0;
    for (int i = 0; i < size; i++) {
        if (freqs[i]) {
            double prob = freqs[i] / (double)size;
            total += prob * log2(prob);
        }
    }
    return -total;
}

// 互信息函数
double mutual_information(unsigned char input_freqs[16], unsigned char output_freqs[256]) {
    double input_entropy = entropy(input_freqs, 16);
    double output_entropy = entropy(output_freqs, 256);
    double conditional_entropy = entropy(output_freqs, 16); // 输出只考虑输入情况
    double mi = input_entropy + conditional_entropy - output_entropy;

    return mi;
}