在回归分析中，统计检验指标是评估模型性能的重要工具。这些指标不仅帮助我们理解模型的预测能力，还能指导我们调整模型以提高其准确性。以下是五种常见的统计检验指标，以及它们的解析和应用。
1. 决定系数（R²）
解析： 决定系数（R²）是衡量回归模型拟合优度的一个指标，它表示模型对因变量的变异解释程度。R²的取值范围是0到1，值越接近1，表示模型拟合得越好。
应用：
- 使用R²来评估模型的整体性能。
- 比较不同模型的拟合效果。
- 在模型调整过程中，监控R²的变化来判断模型是否改进。
代码示例：
from sklearn.metrics import r2_score
# 假设y_true是真实值，y_pred是预测值
r2 = r2_score(y_true, y_pred)
print(f"决定系数 R²: {r2}")
2. 均方误差（MSE）
解析： 均方误差（MSE）是预测值与真实值差的平方的平均值，用于衡量回归预测的准确性。MSE越小，表示模型的预测越接近真实值。
应用：
- 评估模型的预测误差。
- 比较不同模型的预测准确性。
代码示例：
from sklearn.metrics import mean_squared_error
# 假设y_true是真实值，y_pred是预测值
mse = mean_squared_error(y_true, y_pred)
print(f"均方误差 MSE: {mse}")
3. 平均绝对误差（MAE）
解析： 平均绝对误差（MAE）是预测值与真实值差的绝对值的平均值，它对异常值不敏感，适合用于评估模型的稳健性。
应用：
- 评估模型的预测误差，特别是当数据中存在异常值时。
- 比较不同模型的稳健性。
代码示例：
from sklearn.metrics import mean_absolute_error
# 假设y_true是真实值，y_pred是预测值
mae = mean_absolute_error(y_true, y_pred)
print(f"平均绝对误差 MAE: {mae}")
4. 中间绝对偏差（MAD）
解析： 中间绝对偏差（MAD）是中位数绝对偏差的缩写，它是真实值与真实值中位数差的绝对值的平均值。MAD对异常值不敏感，适合用于评估模型的稳健性。
应用：
- 评估模型的预测误差，特别是当数据中存在异常值时。
- 比较不同模型的稳健性。
代码示例：
from sklearn.metrics import median_absolute_error
# 假设y_true是真实值，y_pred是预测值
mad = median_absolute_error(y_true, y_pred)
print(f"中间绝对偏差 MAD: {mad}")
5. 调整后的R²
解析： 调整后的R²是考虑了模型中自变量数量的R²，它对模型复杂度进行了惩罚。调整后的R²可以防止过度拟合。
应用：
- 评估模型的整体性能，同时考虑模型复杂度。
- 避免过度拟合，特别是在模型包含多个自变量时。
代码示例：
from sklearn.metrics import r2_score
# 假设y_true是真实值，y_pred是预测值
r2_adjusted = 1 - (1 - r2_score(y_true, y_pred)) * (len(y_true) - 1) / (len(y_true) - x.shape[1] - 1)
print(f"调整后的R²: {r2_adjusted}")
通过以上五种统计检验指标，我们可以全面评估回归模型的性能，并在模型构建和调整过程中做出更明智的决策。记住，选择合适的指标取决于具体的应用场景和数据特点。