利用神经网络完成手写数字识别，要求如下：1. 探索不同激活函数和损失函数的组合 2.改变权重初始化 3.增加正则化项 4.探索超参数的选择

1. 不同激活函数和损失函数的组合：

激活函数：
- Sigmoid函数
- ReLU函数
- Leaky ReLU函数
- Tanh函数

损失函数：
- 交叉熵损失函数
- 均方误差损失函数

可以通过对不同的激活函数和损失函数进行组合，比较它们的效果，选择最优的组合来进行手写数字识别。

2. 改变权重初始化：

网络的权重初始化对网络的性能有很大影响，因此可以尝试不同的权重初始化方法，比如：
- 随机初始化
- Xavier初始化
- He初始化

通过比较它们的效果，选择最优的权重初始化方法来进行手写数字识别。

3. 增加正则化项：

正则化是一种常用的防止过拟合的方法，可以通过引入L1正则化、L2正则化等方法来增加正则化项。可以尝试不同的正则化方法，比较它们的效果，选择最优的正则化方法来进行手写数字识别。

4. 探索超参数的选择：

超参数对网络的性能也有很大影响，包括学习率、批次大小、迭代次数等。可以通过网格搜索、随机搜索等方法来搜索超参数组合，选择最优的超参数组合来进行手写数字识别。