10.2 线性回归模型
本章重点讨论线性回归模型的拟合。设我们希望建立一个经验模型,描述聚合物黏度与温度、催化剂进料速率之间的关系。一个可能的模型是
y=β0+β1x1+β2x2+ϵ(10.1) 其中,y 表示黏度,x1 表示温度,x2 表示催化剂进料速率。这是一个含两个自变量的多元线性回归模型。自变量也常称为预测变量或回归变量。称其为“线性”,是因为式(10.1)关于未知参数 β0,β1,β2 是线性的。该模型在 x1,x2 所构成的空间中描述一个平面。参数 β0 确定该平面的截距。β1 和 β2 有时称为偏回归系数:保持 x2 不变时,β1 表示 x1 每增加一个单位所对应的 y 的期望变化;保持 x1 不变时,β2 则表示 x2 每增加一个单位所对应的 y 的期望变化。
更一般地,响应变量 y 可以与 k 个回归变量有关。模型
y=β0+β1x1+β2x2+⋯+βkxk+ϵ(10.2) 称为含 k 个回归变量的多元线性回归模型。参数 βj(j=0,1,…,k)称为回归系数。该模型在回归变量 {xj} 所构成的 k 维空间中描述一个超平面。当其他所有自变量 xi(i=j)保持不变时,βj 表示 xj 每增加一个单位所对应的响应 y 的期望变化。
有些模型看起来比式(10.2)复杂,但仍可用多元线性回归方法分析。例如,在含两个变量的一阶模型中加入交互作用项,得到
y=β0+β1x1+β2x2+β12x1x2+ϵ(10.3) 令 x3=x1x2,β3=β12,则式(10.3)可写为
y=β0+β1x1+β2x2+β3x3+ϵ(10.4) 这就是一个含三个回归变量的标准多元线性回归模型。回顾第 6、7、8 章,我们曾在多个例子中用式(10.2)和式(10.4)一类的经验模型定量表达二水平因子设计的结果。再看一个例子:含两个变量的二阶响应面模型为[1]
y=β0+β1x1+β2x2+β11x12+β22x22+β12x1x2+ϵ(10.5) 令 x3=x12,x4=x22,x5=x1x2,以及 β3=β11、β4=β22、β5=β12,则它变为
y=β0+β1x1+β2x2+β3x3+β4x4+β5x5+ϵ(10.6) 这也是一个线性回归模型。前文的例子中也曾出现过这种模型。一般而言,不论产生的响应面形状如何,只要回归模型关于参数(各个 β)是线性的,它就是线性回归模型。
本章将概述如何估计多元线性回归模型中的参数,这一过程通常称为模型拟合。前面几章已经用到过其中一些结果,本章会给出推导。此外,我们还将讨论模型的假设检验、置信区间的构造,以及如何检查模型拟合是否充分。重点是回归分析中对试验设计有用的部分。关于回归分析的更完整论述,可参见 Montgomery、Peck 和 Vining(2012)以及 Myers(1990)。