第九章 一元线性回归背诵记忆点

首先规定一个量，这个量代表着求

和的最大似然估计值方法：

所以等价于：

然后由于知道经过点，所以将算出的带入点即得。

的无偏估计方法：

所以我们知道，只要越小，那么就说明这个拟合的结果越有效，为此我们期望找到一个统计量来估计。

在样本中，我们使用均方误差 MSE 来衡量这样的误差，即

经过展开可以得到：

再化简得到：

可以理解这里的本质上是样本中提取出的，所以，我们得知：

这里自由度的减少本质上是由于在计算和的估计量的时候用了和的样本平均值从而减少的。

我们将其带入卡方分布中的期望得到：

从而：

即的无偏估计。

综上，只要求出然后带入求解即可。

显著性检验求解方法：

宗旨：假设：

利用：

且由之前的式子知：

所以可得 t 分布检验如下：

化简得到：

其中，。

系数的置信区间：
由于

我们很容易推出的置信水平为的置信区间为：

回归函数的函数值的点估计和置信区间求法：

我们知道，可以利用中心极限定理把任意的随机变量的均值化为正态/t分布，因此，我们得到：
这里分母上的东西可以理解为是对于预测值Y的方差。而分子上的东西很好理解，实际上就是估计量和实际值之间的残差。 但是这里真实的是不知道的，所以我们需要把它替换为一个无偏估计量，于是我们得到 我们利用这个分布，就可以求出回归函数的置信区间了（注意这里不是估计量 ## 的点预测和预测区间 简而言之，只需要利用以下式子：
这个式子说明了观察值和实际观察值之间可能的误差，他们的误差一定在这个范围之内，我们利用这个式子可以得出在给定的置信度下最可能的预测范围。
其中，分母上之所以多一个1，是因为其函比已知的回归函数多出一项噪声。

下面以一道例题来过一遍以上方法：

例题：

解：(1) 根据的计算公式得到：

直接带入题目中给出的已经计算好的数值得到：

下面通过带入 求解得到：

带入数据解得 。

2. 为了做假设检验，我们必须先求得的无偏估计，于是通过公式：

我们可以算得其无偏估计为：1.107/5，随后我们得到：

接下来就是假设检验的基本步骤了，得到如下不等式为其接受域：

通过变换和计算得到：

查表得到 ，带入计算得到：

由题意知不可以拒绝，认为该回归无效。
如果利用F检验求解以上题目，那么首先计算：

然后利用得到H0: b = 0的拒绝域为：

经过计算即得答案（计算留给