多元线性回归中的古典假定
多元线性回归模型
3.1若要将一个被解释变量对两个解释变量作线性回归分析: 1)写出总体回归函数和样本回归函数; 2)写出回归模型的矩阵表示; 3)仪器校准说明对此模型的古典假定; 4)写出回归系数及随机扰动项方差的小二乘估计式,并说明参数估计式的性质。 答:1)总体回归函数:写出回归模型的矩阵表示 3)此模型的古典假定:零均值假定;同方差和无自相关假定;随机扰动项与解释变量不相关;无多重共线性假定;随机误差项服从正态分布。 4)回归系数小二乘估计式:
随机扰动项方差的小二乘估计式:k ne σ i 2 2 参数估计式的性质:具有线性性、无偏性和小方差性。
3.2什么是偏回归系数?它与简单线性回归的回归系数有什么不同? 答:多元线性回归模型中,回归系数j (j=1,2,k)表示的是当控制其它解释变量不变的条件下,第j个解释变量的单位变动对被解释变量平均值的影响,这样的回归系数称为偏回归系数。 简单线性回归模型只有一个解释变量,回归系数表示解释变量的单位变动对被解释变量平均值的影响。多元线性回归模型中的回归系数是偏回归系数,是当控制其它解释变量不变的条件下,某个解释变量的单位变动对被解释变量平均值的影响,从而可以实现保持某些控制变量不变的情况下,分析所关注的变量对被解释变量的真实影响。
3.3多元线性回归中的古典假定与简单线性回归时有什么不同? 答:多元线性回归中的古典假定比简单线性回归时多出一个无多重共线性假定。假定各解释变量之间不存在线性关系,或各个解释变量观测值之间线性无关。解释变量观测值矩阵X列满秩(k列)。这是保证多元线性回归模型参数估计值有解的重要条件。
3.4仪器校准多元线性回归分析中,为什么要对可决系数加以修正?修正可决系数与F检验之间有何区别与联系?
答:多元线性回归分析中,多重可决系数是模型中解释变量个数的增函数,这给对比不同模型的多重可决系数带来缺陷,所以需要修正。可决系数只涉及变差,没有考虑自由度。如果用自由度去校正所计算的变差,可纠正解释变量个数不同引起的对比困难。 联系:由方差分析可以看出,F检验与可决系数有密切联系,二者都建立在对应变量变差分解的基础上。F统计量也可通过可决系数计算。对方程联合显著性检验的F检验,实际上也是对可决系数的显著性检验。
区别:F
仪器计量有精确的分布,它可以在给定显著性水平下,给出统计意义上严格的结论。可决系数只能提供一个模糊的推测,可决系数越大,模型对数据的拟合程度就越好。但要大到什么程度才算模型拟合得好,并没有一个绝对的数量标准。 3.5什么是方差分析?对被解释变量的方差分析与对模型拟合优度的度量有什么联系和区别? 答:被解释变量Y观测值的总变差分解式为:RSSESSTSS 。将自由度考虑进去进行方差分析,即得如下方差分析表:变差来源 平方和 自由度 方差 源于回归 2 ) ( YYESSi 1 k 1 kESS 源于残差 2 ) ( iiYYRSS kn knRSS 总变差 2 )。