LayerNormalization的用法

`LayerNormalization`是一种归一化技术，它可以对神经网络中的每一层进行归一化处理，以缓解一些常见的训练问题，例如内部协变量偏移问题。在TensorFlow 2.0中，可以使用`tf.keras.layers.LayerNormalization()`函数来实现LayerNormalization的处理。

`tf.keras.layers.LayerNormalization()`有如下参数：

- `axis`：指定归一化的轴，默认为-1，即最后一维，支持负数索引和元组形式的多个轴；
- `epsilon`：防止除以零的小常数，默认为1e-3；
- `center`：是否使用偏置项，默认为True；
- `scale`：是否使用缩放项，默认为True；
- `beta_initializer`：偏置项的初始化方法，默认为'zeros'；
- `gamma_initializer`：缩放项的初始化方法，默认为'ones'；
- `beta_regularizer`：偏置项的正则化方法；
- `gamma_regularizer`：缩放项的正则化方法；
- `beta_constraint`：偏置项的约束方法；
- `gamma_constraint`：缩放项的约束方法。

使用示例：

import tensorflow as tf

# 定义一个输入张量
x = tf.random.normal([32, 10, 64])

# 定义一个LayerNormalization层
layer_norm = tf.keras.layers.LayerNormalization(axis=-1, center=True, scale=True)

# 通过LayerNormalization对输入张量进行归一化处理
y = layer_norm(x)

在上述示例中，我们创建了一个形状为`[32, 10, 64]`的张量`x`，表示一个batch大小为32，每条数据有10个特征，每个特征向量长度为64。然后，我们创建了一个`LayerNormalization`层，并将其应用到张量`x`上，得到输出张量`y`，该张量的形状与`x`相同。