在使用 MAE loss或MSE loss时，若使用了MLP层，则之后不能加softmax，这是为什么？

### 回答1：
在使用MAE loss或MSE loss时，在MLP层之后添加softmax操作是不太合适的。这是因为MAE loss和MSE loss是回归损失函数，它们的目标是直接拟合实数值，而不是分类问题中的概率分布。在回归问题中，最后一层通常是一个线性层，输出的结果即为预测值，没有必要进行softmax操作。如果在MLP层之后添加softmax操作，会将输出值转换为概率分布，这可能会影响最终的预测结果。

如果需要进行分类任务，可以使用交叉熵损失函数，并在最后一层添加softmax操作。这样可以将输出转换为概率分布，并可以计算预测值与真实标签之间的差距。

### 回答2：
在使用MAE（平均绝对误差）损失或MSE（均方误差）损失时，通常用于回归问题，而不是分类问题。这两种损失函数本身不含有softmax操作，主要用于测量模型预测结果与真实值之间的差异，而不涉及类别的概率分布。

MLP（多层感知器）层通常用于建模非线性关系，它接受输入特征并通过多个神经元进行变换和映射，最后产生输出。在回归问题中，MLP层的输出不需要经过softmax操作。softmax函数一般用于多分类问题，将多个输出转化为概率分布，使得输出值总和为1，表示不同类别的概率。

如果在MLP层之后加入softmax操作，相当于将回归问题转化为多分类问题。这是不合适的，因为回归问题中的目标是预测一个连续值，而分类问题中的目标是预测一个离散的标签。因此，为了保持一致性并使模型能够正确训练和预测，使用MAE loss或MSE loss时不应该在MLP层之后加入softmax操作。

总之，在使用MAE loss或MSE loss进行回归问题的建模时，不需要加入softmax操作，而是根据具体需求选择适合的损失函数和激活函数来构建模型。

### 回答3：
在使用MAE（平均绝对误差）损失函数或MSE（均方误差）损失函数时，在MLP（多层感知机）层之后不能加softmax激活函数，主要是因为这两个损失函数的目标是回归问题，而不是分类问题。

MAE和MSE损失函数都是用于度量预测值与真实值之间的误差。而softmax函数在神经网络中经常用于多分类问题的激活函数，用于将输入映射到[0, 1]之间的概率分布，且各类别的概率之和为1。但是在回归问题中，我们并不需要将输出映射为概率值，而是需要获得一个连续的数值作为预测值。

当我们在MLP层之后加上softmax激活函数时，它将输出的值压缩到[0, 1]之间，导致无法直接得到连续的预测值。这会导致在回归问题中，预测结果无法完全反映真实值，可能损失的信息量也会增加。

因此，在使用MAE或MSE损失函数时，通常我们会将最后一层的激活函数设置为线性激活函数，这样可以得到连续的预测结果。如果想要进行分类任务，则可以选择其他适合分类问题的损失函数和激活函数，如交叉熵损失函数和softmax激活函数。