多重回归分析包括了多个变量,多个变量之间往往存在关系,因此在应用多重回归分析进行预测时,自变量纳入回归方程式的组合有不同的方式。另外,在多重线性回归方程中,有些自变量的偏回归系数显著,也有些自变量的偏回归系数不显著。这意味着凭经验选取的自变量中有的在回归方程中作用显著,有的却无足轻重,而最优的回归方程,应该方程显著且每个自变量的偏回归系数都显著。因此,为了建立最优的回归方程,需要对自变量进行选择,作用不显著的自变量不必进入回归方程。一般选择自变量,建立最优回归方程的方法有如下几种。
(一)最优方程选择法
(二)同时多重回归法
同时多重回归法(simultaneous multiple regression)是将所有的预测变量同时纳入回归方程中估计因变量。此时,整个回归分析仅保留一个包括全体预测变量的回归方程式。同时回归分析法又区分为强制进入法和强制淘汰法两种。
强制进入法是在某一显著水平下,不考虑预测变量间的关系,把对因变量具有解释力的所有预测变量纳入回归方程式,计算所有变量的回归系数。
强制淘汰法的原理与强迫进入法相反,是在某一显著水平下,不考虑预测变量间的关系,将对因变量没有解释力的所有预测变量,一次性全部排除在回归方程式之外,再计算保留在回归方程式中的所有预测变量的回归系数。
(三)逐步多重回归法
逐步多重回归法(stepwise multiple regression)是依据预测变量解释力的大小,逐步检查每一个预测变量对因变量的影响。它不像同时回归分析法那样,同时用所有预测变量来进行预测。根据预测变量的选取顺序,逐步回归分析法又分为向前法(forward)、向后法(backward)和逐步法(stepwise)三种。