用c写希尔密码的解密，其中密钥为3*3的矩阵

以下是用C语言实现希尔密码解密的示例代码，其中密钥为3x3的矩阵：

#include <stdio.h>
#include <string.h>

// 定义矩阵的行列数
#define ROWS 3
#define COLS 3

// 定义解密函数
void decrypt(char *msg, int key[ROWS][COLS]) {
    int len = strlen(msg);
    int i, j, k;

    // 计算需要填充的字符数
    int padding = ROWS - len % ROWS;
    if (padding == ROWS) {
        padding = 0;
    }

    // 创建临时缓冲区
    char buffer[len + padding + 1];
    strcpy(buffer, msg);

    // 填充字符
    for (i = len; i < len + padding; i++) {
        buffer[i] = 'X';
    }
    buffer[len + padding] = '\0';

    // 计算解密后的字符串长度
    int cipher_len = len + padding;

    // 创建解密矩阵
    int inv_key[ROWS][COLS];
    int det = key[0][0] * (key[1][1] * key[2][2] - key[2][1] * key[1][2]) -
              key[0][1] * (key[1][0] * key[2][2] - key[2][0] * key[1][2]) +
              key[0][2] * (key[1][0] * key[2][1] - key[2][0] * key[1][1]);
    if (det == 0) {
        printf("Error: key matrix is not invertible!\n");
        return;
    }
    inv_key[0][0] = (key[1][1] * key[2][2] - key[2][1] * key[1][2]) / det;
    inv_key[0][1] = -(key[0][1] * key[2][2] - key[2][1] * key[0][2]) / det;
    inv_key[0][2] = (key[0][1] * key[1][2] - key[1][1] * key[0][2]) / det;
    inv_key[1][0] = -(key[1][0] * key[2][2] - key[2][0] * key[1][2]) / det;
    inv_key[1][1] = (key[0][0] * key[2][2] - key[2][0] * key[0][2]) / det;
    inv_key[1][2] = -(key[0][0] * key[1][2] - key[1][0] * key[0][2]) / det;
    inv_key[2][0] = (key[1][0] * key[2][1] - key[2][0] * key[1][1]) / det;
    inv_key[2][1] = -(key[0][0] * key[2][1] - key[2][0] * key[0][1]) / det;
    inv_key[2][2] = (key[0][0] * key[1][1] - key[1][0] * key[0][1]) / det;

    // 解密字符串
    for (i = 0; i < cipher_len; i += ROWS) {
        for (j = 0; j < COLS; j++) {
            int sum = 0;
            for (k = 0; k < ROWS; k++) {
                sum += inv_key[j][k] * (buffer[i + k] - 'A');
            }
            msg[i + j] = (sum % 26) + 'A';
        }
    }
    msg[len] = '\0';
}

// 测试函数
int main() {
    char message[] = "VBEKOGMPPQOW";
    int key[ROWS][COLS] = {{2, 3, 5}, {1, 4, 7}, {6, 9, 8}};

    printf("Encrypted message: %s\n", message);

    decrypt(message, key);

    printf("Decrypted message: %s\n", message);

    return 0;
}

此代码中，我们首先计算需要填充的字符数，然后创建一个临时缓冲区来存储填充后的消息。接下来，我们计算解密矩阵，将其存储在 `inv_key` 数组中，并使用该矩阵解密消息。最后，我们将解密后的消息存储在原始消息数组中。