如何用CUDA转置矩阵

以下是使用CUDA进行矩阵转置的基本步骤：

1. 分配存储器：在CUDA设备上分配存储器来存储输入和输出矩阵。

2. 复制数据：将输入矩阵从主机内存复制到CUDA设备内存。

3. 启动CUDA内核：编写CUDA内核来执行矩阵转置操作，并启动内核。

4. 等待内核完成：等待CUDA内核完成矩阵转置操作。

5. 复制结果：将输出矩阵从CUDA设备内存复制到主机内存。

下面是一个简单的CUDA矩阵转置示例代码：

__global__ void transpose(float *input, float *output, int width, int height) {
    int x = blockIdx.x * blockDim.x + threadIdx.x;
    int y = blockIdx.y * blockDim.y + threadIdx.y;

    if (x < width && y < height) {
        output[y * width + x] = input[x * height + y];
    }
}

int main() {
    int width = 4;
    int height = 3;

    float *input = new float[width * height];
    float *output = new float[width * height];

    // Initialize input matrix
    for (int i = 0; i < width * height; i++) {
        input[i] = i + 1;
    }

    // Allocate device memory
    float *d_input, *d_output;
    cudaMalloc((void **)&d_input, width * height * sizeof(float));
    cudaMalloc((void **)&d_output, width * height * sizeof(float));

    // Copy input matrix to device memory
    cudaMemcpy(d_input, input, width * height * sizeof(float), cudaMemcpyHostToDevice);

    // Define block size and grid size
    dim3 blockSize(16, 16);
    dim3 gridSize((width + blockSize.x - 1) / blockSize.x, (height + blockSize.y - 1) / blockSize.y);

    // Launch kernel
    transpose<<<gridSize, blockSize>>>(d_input, d_output, width, height);

    // Wait for kernel to finish
    cudaDeviceSynchronize();

    // Copy output matrix from device memory
    cudaMemcpy(output, d_output, width * height * sizeof(float), cudaMemcpyDeviceToHost);

    // Print output matrix
    for (int i = 0; i < width * height; i++) {
        std::cout << output[i] << " ";
        if ((i + 1) % width == 0) {
            std::cout << std::endl;
        }
    }

    // Free device memory
    cudaFree(d_input);
    cudaFree(d_output);

    // Free host memory
    delete[] input;
    delete[] output;

    return 0;
}

此代码在CUDA设备上分配了输入和输出矩阵的内存，然后将输入矩阵从主机内存复制到CUDA设备内存。然后，它定义了一个CUDA内核函数来执行矩阵转置操作，并启动内核。最后，将输出矩阵从CUDA设备内存复制到主机内存，并打印输出矩阵的值。