反归一化 保存归一化参数

反归一化是将经过归一化处理的数据还原为原始数据的过程。在机器学习中，通常需要保存归一化参数，以便在需要时进行反归一化操作。以下是保存归一化参数的方法：

1.使用pickle模块将归一化参数保存到文件中：

import pickle

# 假设scaler是归一化的映射方式
with open('scaler.pkl', 'wb') as f:
    pickle.dump(scaler, f)

2.使用joblib模块将归一化参数保存到文件中：

from sklearn.externals import joblib

# 假设scaler是归一化的映射方式
joblib.dump(scaler, 'scaler.pkl')

在需要进行反归一化操作时，可以使用以下代码：

import pickle

# 从文件中加载归一化参数
with open('scaler.pkl', 'rb') as f:
    scaler = pickle.load(f)

# 假设result是归一化后的数据
result = [0.5, 0.6, 0.7]

# 反归一化
result = scaler.inverse_transform(result)

相关问题

深度学习归一化和反归一化

### 深度学习中的归一化与反归一化

#### 归一化的定义及其重要性
归一化是数据预处理的一个关键步骤，能够有效地提升模型性能、数值稳定性及训练效率。不同的归一化技术适用于不同场景下的神经网络结构，合理的选择能显著改善最终的训练效果[^2]。

#### 常见的归一化方法概述
常见的几种归一化方式包括但不限于：

- **最大最小归一化 (Min-Max Scaling)**：通过线性变换将特征缩放到指定范围。

- **Z-score归一化 (Standardization)**：使数据分布具有零均值和单位方差特性。

- **小数定标归一化 (Decimal Scaling)**：基于十进制的比例因子调整原始数值大小。

- **批量归一化 (Batch Normalization, BN)**：针对每一批次的数据，在激活函数之前执行标准化操作。

- **层归一化 (Layer Normalization, LN)** 和 **实例归一化 (Instance Normalization, IN)**：分别作用于单一样本内的所有通道或同一通道的不同位置上。

- **组归一化 (Group Normalization, GN)**：结合了上述两种策略的优点，按一定数量分组后再做标准化处理[^3]。

#### 批量归一化(Batch Normalization)的具体实现过程
为了减少内部协变量偏移（Internal Covariate Shift），即各层输入统计特性的变化，批量归一化被引入到每一层中去。具体来说就是在前向传播过程中计算当前batch内各个维度上的均值μ_B和标准差σ_B；接着利用这两个参数对原输入x进行转换得到y=(x−μ_B)/√(σ²_B+ε)，其中ε是一个很小的常数用来防止除以0的情况发生。最后再乘以可学习参数γ并加上β来恢复尺度和平移信息[^4]。

import torch.nn as nn

class BatchNorm(nn.Module):
    def __init__(self, num_features, eps=1e-5, momentum=0.1):
        super().__init__()
        self.eps = eps
        self.momentum = momentum
        
        # 初始化gamma和beta为可训练参数
        self.gamma = nn.Parameter(torch.ones(num_features))
        self.beta = nn.Parameter(torch.zeros(num_features))

        # 注册运行时统计数据
        self.register_buffer('running_mean', torch.zeros(num_features))
        self.register_buffer('running_var', torch.ones(num_features))

    def forward(self, x):
        if self.training:
            batch_mean = x.mean(dim=0)
            batch_var = x.var(dim=0, unbiased=False)

            # 更新移动平均估计
            with torch.no_grad():
                n = float(x.size()[0])
                new_running_mean = (1 - self.momentum) * self.running_mean + \
                    self.momentum * batch_mean
                new_running_var = (1 - self.momentum) * self.running_var + \
                    self.momentum * batch_var
            
            y = (x - batch_mean) / ((batch_var + self.eps).sqrt())
            
            # 使用最新的运行状态更新模块属性
            self.running_mean.copy_(new_running_mean)
            self.running_var.copy_(new_running_var)
        
        else:
            y = (x - self.running_mean) / ((self.running_var + self.eps).sqrt())

        return self.gamma.view_as(y) * y + self.beta.view_as(y)

#### 反归一化的概念及应用场景
当完成预测后，可能需要将经过归一化后的输出重新映射回原来的尺度空间以便解释结果的实际意义。这一步骤被称为反归一化。例如，在图像生成任务中，如果像素强度已经被标准化到了[-1,+1]区间，则在展示图片前需将其还原至[0,255]范围内显示正常色彩。

对于简单的线性变换类归一化方案而言，只需保存最初的平移项b和比例系数a即可轻松实现逆运算z=ax+b。而对于像BN这样的复杂机制由于涉及到了动态计算的过程所以通常不需要显式的反归一化步骤除非特别需求。

z-score归一化反归一化 matlab代码

### 实现Z-Score归一化及其反归一化

在MATLAB中，可以利用`zscore`函数来执行Z-Score标准化操作。此过程会将数据转换成均值为0、标准差为1的形式。对于新加入的数据，在应用模型之前应当依据训练集的标准参数（均值和标准差）来进行相同的变换处理[^1]。

下面展示了一个简单的例子，说明如何使用`zscore`进行正向以及逆向的规范化：

% 原始数据实例
data = [2 4 6 8; 1 3 5 7];

% 应用 Z-Score 归一化
[dataNorm, mu, sigma] = zscore(data);

disp('Normalized Data:');
disp(dataNorm);

为了恢复原来的比例尺，即所谓的“去归一化”，可以通过保存下来的平均数(`mu`)与标准偏差(`sigma`)手动完成这一过程:

% 进行反归一化
originalData = dataNorm .* sigma + mu;

disp('Original Scale Restored:');
disp(originalData);

值得注意的是，当有新的测试样本到来时，应该采用同样的方式对其进行预处理——基于来自训练阶段获得的统计特性(`mu`, `sigma`)做相应的调整，而不是重新计算这些统计数据。