简单线性回归或多元线性回归中的误差项假设

简单线性回归

• 图： [简单线性回归]

多元线性回归

• 图： [多元线性回归]

假设条件

1. 误差均值为零
2. 误差具有恒定方差（同方差性）
3. 误差不相关
4. 误差呈正态分布

同方差vs异方差

• 图： [同方差vs异方差]

异方差的可能原因

1. 数据集中存在异常值
2. 模型未正确指定
3. 观察结果与不同尺度度量混合
4. 使用不正确的数据转换执行回归
5. 偏度是回归量分布中的特征

异方差的影响

• 线性回归的假设之一（假设2）是不存在异方差。
• 估计器不再是最佳/有效的。
• 假设检验（如t检验、F检验）不再有效。

使用残差图识别异方差

• 异方差在残差图中产生向外开口的漏斗或向外闭合的漏斗形状。

通过统计检验识别异方差

• Breusch-Pagan测试： 测试回归误差的方差是否依赖于自变量的值。
• White 检验： 确定回归模型中误差的方差是否为常数。使用辅助回归分析来确定恒定方差。

异方差修正

1. 使用不同规范的模型
2. 加权最小二乘法（普通最小二乘和线性回归的推广）
3. MINQUE：Minimum Norm Quadratic Unbiased Estimation（MINQUE）的理论包括三个阶段。