torch.cuda.Stream()作用

`torch.cuda.Stream()` 是PyTorch中用于管理CUDA异步操作的对象。它提供了一种分离CUDA流的方法，允许在多个流之间并行执行多个CUDA操作，从而提高了GPU的利用率。

使用 `cuda.Stream()` 可以创建一个新的流对象。可以使用 `with torch.cuda.stream(stream)` 来指定一个 CUDA 操作使用的流。在这个上下文环境中，所有的 CUDA 操作都将被分配到指定的流中执行。

例如，如果需要在GPU上执行多个异步操作，可以创建多个流对象，并将这些操作分配给不同的流。这样可以最大限度地利用GPU的计算资源，提高程序的性能。

import torch

# 创建两个流
stream1 = torch.cuda.Stream()
stream2 = torch.cuda.Stream()

# 在两个流中并行执行两个操作
with torch.cuda.stream(stream1):
    x = torch.randn((1000, 1000), device='cuda')
    y = x * 2
with torch.cuda.stream(stream2):
    z = torch.randn((1000, 1000), device='cuda')
    w = z * 2

# 在主流中等待两个操作完成
torch.cuda.synchronize()