AttributeError: module 'torch.functional' has no attribute 'relu'、

这个错误是因为在调用torch.nn模块的时候，使用了一个不存在的属性。具体来说，"AttributeError: module 'torch.nn' has no attribute 'GELU'"表示torch.nn模块中没有名为GELU的属性；"AttributeError: module ‘torch.nn’ has no attribute ‘relu’"表示torch.nn模块中没有名为relu的属性；"AttributeError: module ‘torch.nn‘ has no attribute ‘Mish‘"表示torch.nn模块中没有名为Mish的属性。

要解决这个问题，可以检查一下你的torch版本是否过低，可能需要升级到较新的版本。另外，还可以尝试使用其他激活函数或者模块来替代这些不存在的属性。

相关问题

AttributeError: module 'torch.functional' has no attribute 'relu'

以下是解决"AttributeError: module 'torch.functional' has no attribute 'relu'"的方法：

import torch
import torch.nn.functional as F

# 创建一个输入张量
input_tensor = torch.randn(2, 3)

# 使用torch.nn.functional中的relu函数
output = F.relu(input_tensor)
print(output)

这段代码演示了如何使用PyTorch中的torch.nn.functional中的relu函数来解决"AttributeError: module 'torch.functional' has no attribute 'relu'"的问题。

AttributeError: module 'torch.nn.functional' has no attribute 'sub'

您遇到的问题是"AttributeError: module 'torch.nn.functional' has no attribute 'sub'"。这个错误通常是由于使用了不存在的属性或方法导致的。在这种情况下，'torch.nn.functional'模块中没有名为'sub'的属性。

要解决这个问题，您可以检查您的代码，确保您正确地使用了torch.nn.functional模块中的属性和方法。如果您确实需要使用'sub'属性，您可以查看PyTorch的官方文档，了解有关该属性的更多信息，以确定您是否正确地使用了它。

以下是一个范例，展示了如何使用torch.nn.functional模块中的一些常见函数：

import torch
import torch.nn.functional as F

# 使用relu函数
x = torch.tensor([-1, 0, 1])
output = F.relu(x)
print(output)  # 输出：tensor([0, 0, 1])

# 使用softmax函数
x = torch.tensor([1, 2, 3])
output = F.softmax(x, dim=0)
print(output)  # 输出：tensor([0.0900, 0.2447, 0.6652])

请注意，这只是torch.nn.functional模块的一小部分功能示例。您可以根据您的具体需求查阅PyTorch官方文档以获取更多信息。