线性回归的损失函数是什么

线性回归的损失函数通常采用均方误差（Mean Squared Error，MSE）作为代价函数。其公式为：

$$
J(\boldsymbol{\theta})=\frac{1}{2m}\sum_{i=1}^{m}(\boldsymbol{\theta}^T\mathbf{x}^{(i)}-y^{(i)})^2
$$

其中，$\boldsymbol{\theta}$ 是模型的参数向量，$\mathbf{x}^{(i)}$ 是第 $i$ 个样本的特征向量，$y^{(i)}$ 是第 $i$ 个样本的真实标签，$m$ 是样本数量。

相关问题

python自定义线性回归损失函数

在Python中，如果你想要自定义线性回归的损失函数，通常我们会选择均方误差（Mean Squared Error, MSE）作为标准损失，因为它直观且易于优化。MSE计算公式是预测值和真实值之间差的平方的平均值：

def mean_squared_error(y_true, y_pred):
    return np.mean((y_true - y_pred) ** 2)

如果你想自定义其他损失函数，比如对数似然损失(log likelihood loss)适合二分类问题，或者Huber损失（Huber Loss）对于异常值更鲁棒，你可以这样做：

import numpy as np

# 对数似然损失（二分类）
def log_loss(y_true, y_pred):
    epsilon = 1e-7  # 防止除以0
    return -(y_true * np.log(np.clip(y_pred, epsilon, 1 - epsilon)) + (1 - y_true) * np.log(np.clip(1 - y_pred, epsilon, 1 - epsilon))).mean()

# Huber损失
def huber_loss(y_true, y_pred, delta=1):
    diff = np.abs(y_true - y_pred)
    quadratic = diff < delta
    linear = diff >= delta
    return 0.5 * (diff[quadratic]**2).sum() + delta*(diff[linear] - 0.5*delta**2)[linear].sum()

使用Python自定义线性回归损失函数

在Python中，自定义线性回归的损失函数通常是用来衡量模型预测值与真实值之间的差异。最常用的损失函数是均方误差(Mean Squared Error, MSE)，它计算的是每个预测值与实际值之差的平方的平均值。如果你想要自定义这个函数，可以按照以下步骤：

import numpy as np

def custom_mse(y_true, y_pred):
    """
    自定义均方误差损失函数
    :param y_true: 真实标签 (numpy array)
    :param y_pred: 预测值 (numpy array)
    :return: 损失值 (浮点数)
    """
    return np.mean((y_true - y_pred) ** 2)

# 使用例子
y_true = [1, 2, 3, 4, 5]
y_pred = [0.9, 1.8, 2.7, 3.6, 4.5]  # 假设这是模型的预测结果
loss = custom_mse(y_true, y_pred)
print(f"自定义MSE损失: {loss}")