一元线性回归

01 · 出发点

用一条直线概括成对数据的平均趋势

当散点图呈近似线性趋势时，可以用直线 $\hat y=a+bx$ 描述 $x$ 变化时 $y$ 的平均变化。各观测点与直线的竖直差称为残差。

最小二乘法选择使残差平方和最小的直线。平方既避免正负残差抵消，也使较大的偏离受到更强惩罚。

02 · 概念

最小二乘回归直线

回归斜率 $b$ 表示 $x$ 每增加 1 个单位，预测的 $y$ 平均改变 $b$ 个单位；截距 $a$ 是 $x=0$ 时的模型预测，只有当 $0$ 位于合理研究范围时才具有实际解释。

当 $x$ 的离差平方和大于 $0$ 时，最小二乘斜率 $b$ 等于 $x,y$ 离差乘积和除以 $x$ 的离差平方和，再由 $a=\bar y-b\bar x$ 求截距。回归直线因此通过样本中心 $(\bar x,\bar y)$。

03 · 方法

建立并解释回归模型

1. 01

   先用散点图确认线性模型基本合理，并识别离群点。

2. 02

   计算斜率 $b$，再用 $a=\bar y-b\bar x$ 求截距，写出带预测符号的方程。

3. 03

   结合变量单位解释斜率，检查残差和模型适用范围。

04 · 例题

把方法落到具体问题

05 · 辨析

容易忽略的条件与边界