设因变量为y,自变量为x1和x2,则回归方程的一般形式为:
得到:
常数a可由下式确定:
将a代入方程组(13-4),整理后得:
公式13-6方程组叫做正规方程组,解正规方程组,即可得到b1与b2,然后代入公式13-5得到a,这样回归方程就建立了。
【例13-2】 下表是从10个居民点调查得来的数据,因变量y是表示想购置某种高档时装的青年人百分比,自变量X1表示某居民点的青年人受教育水平的某种指数,自变量X2表示青年人所在家庭的月人均收入(元),要求建立由X1与X2共同估计Y的回归方程。
解:经计算:
代入方程组13-6,得:
解得:
b1=1.05 b2=0.82
所求方程为:
注意:从上面所求的回归方程中看b1>b2。但不能只根据1.05>0.82就判定自变量X1在预测Y时起的作用大。因为两个自变量的单位不同,不能直接比较它们在估计Y时的贡献。若要进行这种比较,需将原始数据分别转换成标准分数,以标准分数建立的回归方程叫标准回归方程。一般形式为:
ZY表示因变量Y的标准分数的估计值。
β1和β2叫标准偏回归系数(standardized regression coefficient)。
建立标准回归方程还可以用另外一种形式的正规方程组:
方程组中r12(=r21),r1Y,r2Y表示因变量、自变量的两两之间相关系数。r11=1,r22=1
仍以例13-2数据为例,计算后
r12=r21=0.799 r1Y=0.93 r2Y=0.946
代入公式13-8:
解得β1=0.48,β2=0.56
因为做了标准化变换,排除了量纲不同的影响,所以可以根据标准化回归系数的大小评价自变量对Y的贡献大小,β2>β1,所以可以认为 X2(即家庭人均收入)对Y的影响比X1更大。
标准偏回归系数与回归系数的关系如下:
由于标准化的结果,β系数具有与相关系数相似的性质,也就是介于-1和+1之间。其绝对值越大者,表示预测能力越强。正负向则代表X与Y变量的关系方向。值得注意的是,在多重回归中,由于考虑预测变量之间相关的混淆效果,统计控制的程序会对各项参数进行校正,使得系数有可能出现大于1的情况。