3.5 结果的实用解释

在实施试验、完成统计分析并考察基本假定之后，试验者就可以就所研究的问题得出实用结论了。这往往相对容易，而且对目前所考虑的这类简单试验来说，或许可以不太正式地进行，例如通过检视图 3.1 和图 3.2 那样的箱线图和散点图。然而，在某些情况下需要应用更形式化的技术。本节介绍其中一些技术。

3.5.1 回归模型¶

试验中涉及的因子可以是定量的或定性的。定量因子是其水平可以与数值尺度上的点相联系的因子，例如温度、压力或时间。定性因子则是其水平无法按大小顺序排列的因子。操作人员、原料批次和班次是典型的定性因子，因为没有理由按任何特定的数值顺序对它们排序。

就试验的初始设计与分析而言，两类因子的处理方式完全相同。试验者感兴趣的是确定因子各水平之间是否存在差异。事实上，方差分析把设计因子当作定性（即分类）变量来处理。如果因子确实是定性的（例如操作人员），那么考虑在该因子的某个中间水平上进行后续运行的响应就毫无意义。然而对于时间这样的定量因子，试验者通常关注所用取值的整个范围，特别是中间因子水平上后续运行的响应。也就是说，如果试验中使用了 1.0、2.0 和 3.0 小时这三个水平，我们可能希望预测 2.5 小时处的响应。因此，试验者常常希望为试验中的响应变量建立一个插值方程。这个方程就是所研究过程的一个经验模型。

拟合经验模型的一般方法称为回归分析（regression analysis），第 10 章将详细讨论。也可参见本章的补充材料。本节用例 3.1 的刻蚀速率数据简要说明这一技术。

图 3.10 给出了例 3.1 试验中刻蚀速率 $y$ 对功率 $x$ 的散点图。从散点图可以清楚看出，刻蚀速率与功率之间存在很强的关联。作为初步近似，我们可以尝试对数据拟合一个线性模型，例如

其中 $\beta_{0}$ 和 $\beta_{1}$ 是待估计的未知参数，$\epsilon$ 是随机误差项。估计这类模型参数常用的方法是最小二乘法（method of least squares），即选择 $\beta$ 的估计值使误差（$\epsilon$）的平方和最小。本例中的最小二乘拟合为

（如果你不熟悉回归方法，请参见第 10 章和本章补充材料。）

这一线性模型如图 3.10a 所示。在较高的功率设置下它似乎不太令人满意。或许在 $x$ 中加入一个二次项可以得到改进。所得的二次模型拟合为

这一二次拟合如图 3.10b 所示。二次模型看来优于线性模型，因为它在较高功率设置处给出了更好的拟合。

一般地，我们希望拟合能充分描述系统或过程的最低阶多项式。在本例中，二次多项式似乎比线性模型拟合得更好，因此二次模型额外的复杂性是有道理的。然而，选择逼近多项式的阶数并不总是容易的，而且比较容易过拟合，也就是说，加入并不能真正改善拟合的高阶多项式项，反而增加了模型的复杂性，并常常损害它作为预测或插值方程的实用性。

在本例中，经验模型可以用来预测试验区域内各功率设置下的刻蚀速率。在另一些情况下，经验模型可以用来进行过程最优化，即找出使响应达到最好值的设计变量水平。这些问题的讨论和示例将在本书后面展开。

图 3.10 例 3.1 刻蚀速率数据的散点图与回归模型

3.5.2 处理均值之间的比较¶

假设对固定效应模型作方差分析时原假设被拒绝。这样我们就知道处理均值之间存在差异，但究竟哪些均值不同并未明确指出。在这种情形下，有时对处理均值做进一步的比较和分组分析可能有用。第 $i$ 个处理均值定义为 $\mu_{i} = \mu+\tau_{i}$，$\mu_{i}$ 由 $\overline{y}_{i.}$ 估计。处理均值之间的比较要么用处理合计 $\{y_{i.}\}$、要么用处理平均 $\{\overline{y}_{i.}\}$ 来进行。进行这些比较的程序通常称为多重比较方法（multiple comparison methods）。下面几节讨论对各个处理均值或若干组处理均值进行比较的方法。

3.5.3 均值的图形比较¶

在方差分析之后，构造一个用于比较均值的图形程序非常容易。假设所关注的因子有 $a$ 个水平，$\overline{y}_{1.},\overline{y}_{2.},\ldots,\overline{y}_{a.}$ 是各处理平均。如果我们知道 $\sigma$，那么任一处理平均的标准差都是 $\sigma/\sqrt{n}$。因此，如果所有因子水平均值完全相同，所观测到的样本均值 $\overline{y}_{i.}$ 的行为就会像是一组从均值为 $\overline{y}_{i.}$、标准差为 $\sigma/\sqrt{n}$ 的正态分布中随机抽取的观测值。设想有一个正态分布可以沿某条轴滑动，而轴的下方画着 $\overline{y}_{1.},\overline{y}_{2.},\ldots,\overline{y}_{a.}$。如果各处理均值全都相等，就应当存在某个位置，使该分布显然能把 $\overline{y}_{i.}$ 这些值都解释为来自同一个分布。如果不是这样，那些看起来并非来自该分布的 $\overline{y}_{i.}$ 值就对应于产生不同平均响应的因子水平。

这一逻辑唯一的缺陷是 $\sigma$ 未知。Box、Hunter 和 Hunter（2005）指出，我们可以用方差分析中的 $\sqrt{MS_{E}}$ 代替 $\sigma$，并使用带尺度因子 $\sqrt{MS_{E}/n}$ 的 $t$ 分布代替正态分布。例 3.1 刻蚀速率数据的这种安排如图 3.11 所示。请关注图中部那条实线曲线所表示的 $t$ 分布。

要勾画出图 3.11 中的 $t$ 分布，只需把横轴的 $t$ 值乘以尺度因子

并把该点处 $t$ 的纵坐标画出来^[1]。由于 $t$ 分布看起来很像正态分布，只是在中心附近略扁平、尾部更长，通常靠目测就能很容易地画出这一草图。如果你想更精确，Box、Hunter 和 Hunter（2005）给出了 $t$ 值及其对应纵坐标的表。这一分布可以取任意的原点，不过通常最好在待比较的 $\overline{y}_{i.}$ 值所在区域中选取一个。图 3.11 中原点取 615 Å/min。

现在设想把图 3.11 中的 $t$ 分布沿水平轴滑动（如图中虚线所示），并考察图中画出的四个均值。注意不存在任何位置能使四个平均都被看作来自该分布的典型随机观测值。这意味着四个均值并不相等，因此该图就是方差分析结果的图形展示。此外，该图表明功率的四个水平（160、180、200、220 W）产生的平均刻蚀速率彼此都不同。换句话说，$\mu_{1} \neq \mu_{2} \neq \mu_{3} \neq \mu_{4}$。

对许多多重比较问题来说，这个简单的程序是一种粗略但有效的技术。不过还有更形式化的方法，下面简要讨论其中的一些。

图 3.11 例 3.1 的刻蚀速率平均值与尺度因子为 $\sqrt{MS_{E}/n}=\sqrt{330.70/5}=8.13$ 的 $t$ 分布的关系

3.5.4 对照¶

许多多重比较方法都用到对照（contrast）的概念。考虑例 3.1 的等离子体刻蚀试验。由于原假设被拒绝，我们知道某些功率设置产生的刻蚀速率与另一些不同，但究竟是哪些造成了这一差异？我们可能在试验一开始就怀疑 200 W 与 220 W 产生相同的刻蚀速率，这意味着我们希望检验假设

或等价地

如果我们在试验开始时怀疑最低功率水平的平均与最高功率水平的平均没有差异，那么假设应是

或

一般地，对照是形如

的参数线性组合，其中对照常数 $c_{1}, c_{2}, \ldots, c_{a}$ 之和为零，即 $\sum_{i=1}^{a} c_{i} = 0$。上述两个假设都可以用对照表示为

式 3.23 中假设的对照常数为 $c_{1}=c_{2}=0$、$c_{3}=+1$、$c_{4}=-1$；而式 3.24 中假设的对照常数为 $c_{1}=c_{2}=+1$、$c_{3}=c_{4}=-1$。

检验涉及对照的假设有两种基本做法。第一种做法使用 $t$ 检验。把所关注的对照用处理平均写出，得到

当各处理的样本量相等时，$C$ 的方差为

如果式 3.25 中的原假设为真，则比值

服从 $N(0,1)$ 分布。现在把未知方差 $\sigma^{2}$ 换成它的估计——误差均方 $MS_{E}$，并用统计量

来检验式 3.25 中的假设。若式 3.27 中的 $|t_{0}|$ 超过 $t_{\alpha/2,N-a}$，则拒绝原假设。

第二种做法使用 $F$ 检验。自由度为 $v$ 的 $t$ 随机变量的平方是分子自由度为 1、分母自由度为 $v$ 的 $F$ 随机变量。因此我们可以得到

作为检验式 3.25 的 $F$ 统计量。若 $F_{0} > F_{\alpha,1,N-a}$ 则拒绝原假设。我们可以把式 3.28 的检验统计量写成

其中单自由度的对照平方和为

对照的置信区间。 与检验关于对照的假设相比，构造置信区间有时更有用。设所关注的对照为

把处理均值换成处理平均，得到

因为

所以对照 $\sum_{i=1}^{a} c_{i}\mu_{i}$ 的 $100(1-\alpha)$ 百分置信区间为

注意我们用 $MS_{E}$ 估计了 $\sigma^{2}$。显然，如果式 3.30 的置信区间包含零，我们就无法拒绝式 3.25 中的原假设。

标准化对照。 当关注的对照多于一个时，把它们放在同一尺度上评价往往很有用。一种做法是把对照标准化，使其方差为 $\sigma^{2}$。如果对照 $\sum_{i=1}^{a} c_{i}\mu_{i}$ 用处理平均写成 $\sum_{i=1}^{a} c_{i}\overline{y}_{i.}$，那么把它除以 $\sqrt{(1/n)\sum_{i=1}^{a} c_{i}^{2}}$，就得到方差为 $\sigma^{2}$ 的标准化对照。于是标准化对照实际上就是

其中

样本量不等。 当各处理的样本量不同时，上述结果要作少许修改。首先注意，对照的定义现在要求

其他需要的改动都很直接。例如，式 3.27 中的 $t$ 统计量变为

而式 3.29 的对照平方和变为

3.5.5 正交对照¶

3.5.4 节程序的一个有用的特例是正交对照（orthogonal contrasts）。系数为 $\{c_{i}\}$ 和 $\{d_{i}\}$ 的两个对照正交，如果

或者对非平衡设计，如果

对 $a$ 个处理而言，$a-1$ 个正交对照的集合把处理平方和分解为 $a-1$ 个独立的单自由度分量。因此，对正交对照所作的检验是相互独立的。

为一组处理选择正交对照系数有许多方式。通常，试验本身的性质应当提示哪些比较是值得关注的。例如，若有 $a=3$ 个处理，其中处理 1 是对照，处理 2 和处理 3 是试验者关注的因子的实际水平，那么适当的正交对照可以是：

注意系数为 $c_{i} = -2, 1, 1$ 的对照 1 把该因子的平均效应与对照相比较，而系数为 $d_{i} = 0, -1, 1$ 的对照 2 则比较该因子的两个水平。

一般地，对照（或正交对照）方法对所谓的预先计划的比较（preplanned comparisons）很有用。也就是说，对照是在实施试验和考察数据之前就确定好的。原因是：如果在考察数据之后才选择比较，大多数试验者都会构造对应于所观测到的较大均值差异的检验。这些较大差异可能来自真实效应的存在，也可能来自随机误差。如果试验者总是挑最大的差异来比较，就会放大检验的第 I 类错误，因为在所选择的比较中，观测差异由误差造成的比例很可能会异常高。考察数据以挑选可能关注的比较，通常称为数据窥探（data snooping）。下一节讨论的用于所有比较的 Scheffé 方法允许数据窥探。

例 3.6¶

考虑例 3.1 的等离子体刻蚀试验。共有四个处理均值，处理之间有 3 个自由度。假设在实施试验之前就确定了下面这组处理均值之间的比较（以及相应的对照）：

注意这些对照系数是正交的。利用表 3.4 中的数据，我们求得各对照的数值以及平方和如下：

这些对照平方和完全分解了处理平方和。对这些正交对照的检验通常并入方差分析，如表 3.11 所示。由 $P$ 值我们得出结论：功率设置的水平 1 与 2 之间、以及水平 3 与 4 之间的平均刻蚀速率存在显著差异；且在 $\alpha=0.05$ 水平下，水平 1 和 2 的平均确实与水平 3 和 4 的平均有显著差异。

表 3.11 等离子体刻蚀试验的方差分析

3.5.6 比较所有对照的 Scheffé 方法¶

在许多情形下，试验者可能事先并不知道希望比较哪些对照，或者关注的比较可能多于 $a-1$ 个。在许多探索性试验中，只有在对数据作初步考察之后才能发现关注的比较。Scheffé（1953）提出了一种比较处理均值之间任意和全部可能对照的方法。在 Scheffé 方法中，对任何可能的比较，第 I 类错误至多为 $\alpha$。

假设已确定了一组 $m$ 个关于处理均值的对照

相应的处理平均的对照为

该对照的标准误为

其中 $n_{i}$ 是第 $i$ 个处理中的观测值个数。可以证明，$C_{u}$ 应当与之比较的临界值为

要检验对照 $\Gamma_{u}$ 与零有显著差异这一假设，就把 $C_{u}$ 与临界值比较。若 $|C_{u}| > S_{\alpha,u}$，则拒绝对照 $\Gamma_{u}$ 等于零这一假设。

Scheffé 程序也可以用来构造处理均值之间所有可能对照的置信区间。所得到的区间，即 $C_{u}-S_{\alpha,u} \leq \Gamma_{u} \leq C_{u}+S_{\alpha,u}$，是同时置信区间，因为所有这些区间同时成立的概率至少为 $1-\alpha$。

为说明这一程序，考虑例 3.1 中的数据，假设关注的对照为

和

这些对照的数值为

和

由式 3.33 求得标准误为

和

由式 3.34，1% 的临界值为

和

因为 $|C_{1}| > S_{0.01,1}$，我们得出结论：对照 $\Gamma_{1} = \mu_{1}+\mu_{2}-\mu_{3}-\mu_{4}$ 不等于零；也就是说，功率设置 1 和 2 作为一个整体的平均刻蚀速率，不同于功率设置 3 和 4 作为一个整体的平均刻蚀速率。此外，因为 $|C_{2}| > S_{0.01,2}$，我们得出结论：对照 $\Gamma_{2} = \mu_{1}-\mu_{4}$ 不等于零，即处理 1 与处理 4 的平均刻蚀速率存在显著差异。

3.5.7 处理均值对的比较¶

在许多实际情形中，我们只希望比较各对均值。我们常常可以通过检验所有处理均值对之间的差异来确定哪些均值不同。因此，我们关注的是形如 $\Gamma = \mu_{i}-\mu_{j}$（对所有 $i \neq j$）的对照。尽管上一节所述的 Scheffé 方法可以方便地应用于这一问题，但它并不是这类比较中最灵敏的程序。下面我们转向专门为所有 $a$ 个总体均值之间的两两比较而设计的方法。

假设我们关注 $a$ 个处理均值的所有对都比较，希望检验的原假设是 $H_{0}: \mu_{i} = \mu_{j}$（对所有 $i \neq j$）。这个问题有许多可用的程序，下面介绍两种流行的比较方法。

Tukey 检验。 假设在一次拒绝了处理均值相等这一原假设的方差分析之后，我们希望检验所有两两均值比较：

对所有 $i \neq j$。Tukey（1953）提出了一个检验这些假设的程序：样本量相等时总显著性水平恰好为 $\alpha$，样本量不等时至多为 $\alpha$。他的程序也可以用来构造所有均值对之差的置信区间。对这些区间而言，样本量相等时同时置信水平为 $100(1-\alpha)$ 个百分点，样本量不等时至少为 $100(1-\alpha)$ 个百分点。换句话说，Tukey 程序把试验误差率或“族”错误率控制在所选水平 $\alpha$ 上。当关注点集中在均值对上时，这是一个极好的数据窥探程序。

Tukey 程序使用学生化极差统计量（studentized range statistic）的分布

其中 $\overline{y}_{\max}$ 和 $\overline{y}_{\min}$ 分别是一组 $p$ 个样本均值中的最大者和最小者。附录表 V 给出了 $q_{\alpha}(p,f)$ 的值，即 $q$ 的上侧 $\alpha$ 分位点，其中 $f$ 是与 $MS_{E}$ 相关联的自由度个数。对等样本量，若某两个均值的样本差异绝对值超过

Tukey 检验就判定这两个均值显著不同。等价地，我们可以按如下方式构造所有均值对的 $100(1-\alpha)$ 百分置信区间：

当样本量不相等时，式 3.35 和式 3.36 分别变为

和

样本量不等的版本有时称为 Tukey–Kramer 程序。

式 3.36 中 Tukey 置信区间的推导对等样本量而言很直接。对学生化极差统计量 $q$，我们有

若 $\max(\overline{y}_{i.}-\mu_{i})-\min(\overline{y}_{i.}-\mu_{i})$ 小于或等于 $q_{\alpha}(a,f)\sqrt{MS_{E}/n}$，则对每一对均值都必有 $|(\overline{y}_{i.}-\mu_{i})-(\overline{y}_{j.}-\mu_{j})| \leq q_{\alpha}(a,f)\sqrt{MS_{E}/n}$。因此

把这一表达式整理，将 $\mu_{i}-\mu_{j}$ 分离到不等式中间，就得到式 3.38 给出的那组 $100(1-\alpha)$ 百分同时置信区间。

例 3.7¶

为说明 Tukey 检验，我们使用例 3.1 中等离子体刻蚀试验的数据。取 $\alpha=0.05$，误差自由度为 $f=16$，附录表 V 给出 $q_{0.05}(4,16)=4.05$。因此由式 3.35，

于是，任何两个处理平均的绝对差超过 33.09，就意味着相应的这对总体均值显著不同。四个处理平均是

平均之差为

带星号的数值表示显著不同的均值对。注意 Tukey 程序表明所有均值对都不同。因此，每个功率设置产生的平均刻蚀速率都与其他任一功率设置下的平均刻蚀速率不同。

在使用任何均值两两检验程序时，我们偶尔会发现方差分析的总 $F$ 检验显著，但均值的两两比较却没有揭示出任何显著差异。出现这种情况是因为 $F$ 检验同时考虑涉及处理均值的所有可能对照，而不只是两两比较。也就是说，在当前数据中，显著的对照可能不是 $\mu_{i}-\mu_{j}$ 的形式。

Fisher 最小显著差（LSD）法。 Fisher 比较所有均值对的方法控制每次单个两两比较的错误率 $\alpha$，但不控制试验误差率或族错误率。该程序使用 $t$ 统计量检验 $H_{0}: \mu_{i} = \mu_{j}$：

假设是双侧备择假设，若 $|\overline{y}_{i.}-\overline{y}_{j.}| > t_{\alpha/2,N-a}\sqrt{MS_{E}(1/n_{i}+1/n_{j})}$，则判定均值 $\mu_{i}$ 与 $\mu_{j}$ 显著不同。量

称为最小显著差。如果设计是平衡的，$n_{1}=n_{2}=\cdots=n_{a}=n$，则

使用 Fisher LSD 程序时，我们只需把每一对平均之间观测到的差异与相应的 LSD 比较。若 $|\overline{y}_{i.}-\overline{y}_{j.}| > \mathrm{LSD}$，我们就得出结论：总体均值 $\mu_{i}$ 与 $\mu_{j}$ 不同。也可使用式 3.39 的 $t$ 统计量。

例 3.8¶

为说明这一程序，如果使用例 3.1 试验的数据，$\alpha = 0.05$ 时的 LSD 为

于是，任何两个处理平均的绝对差超过 24.49，就意味着相应的这对总体均值显著不同。平均之差为

带星号的数值表示显著不同的均值对。显然，所有均值对都显著不同。

注意使用这一方法可能使总的 $\alpha$ 风险明显放大。具体地说，随着处理数 $a$ 增大，试验误差率或族第 I 类错误率（至少犯一次第 I 类错误的试验次数与试验总次数之比）会变得很大。

我该用哪种两两比较方法？ 此时一个合乎逻辑的问题当然是：我应当使用这些程序中的哪一个？遗憾的是，这个问题没有明确的答案，而且专业统计学家常常对各种程序的实用性持不同意见。Carmer 和 Swanson（1973）对若干多重比较程序（包括这里未讨论的其他程序）作了 Monte Carlo 模拟研究。他们报告说，最小显著差法如果只在方差分析的 $F$ 检验于 5% 水平显著之后才使用，那么它是检出均值真实差异的一种非常有效的检验。然而，这一方法不控制试验误差率。由于 Tukey 方法确实控制总体错误率，许多统计学家更愿意使用它。

如上所述，还有其他若干多重比较程序。关于这些方法的文献，见 O’Neill 和 Wetherill（1971）、Miller（1977）以及 Nelson（1989）。Miller（1991）和 Hsu（1996）的著作也值得推荐。

3.5.8 处理均值与对照的比较¶

在许多试验中，其中一个处理是对照，分析者关注的是把其余 $a-1$ 个处理均值各自与对照比较。因此只需作 $a-1$ 个比较。Dunnett（1964）提出了进行这些比较的一个程序。假设处理 $a$ 是对照，我们希望检验假设

其中 $i = 1, 2, \ldots, a-1$。Dunnett 程序是对通常 $t$ 检验的一种修改。对每个假设，我们计算所观测到的样本均值之差

若

则以第 I 类错误率 $\alpha$ 拒绝原假设 $H_{0}: \mu_{i} = \mu_{a}$，其中常数 $d_{\alpha}(a-1,f)$ 见附录表 VI。（双侧和单侧检验都可以进行。）注意 $\alpha$ 是与全部 $a-1$ 个检验相关联的联合显著性水平。

例 3.9¶

为说明 Dunnett 检验，考虑例 3.1 的试验，把处理 4 视为对照。本例中 $a=4$、$a-1=3$、$f=16$、$n_{i}=n=5$。在 5% 水平下，由附录表 VI 查得 $d_{0.05}(3,16)=2.59$。因此临界差为

（注意这是平衡设计下式 3.42 的化简形式。）于是，任何与对照的绝对差超过 29.92 的处理均值都将被判定为显著不同。所观测到的差为

注意所有差异都显著。因此我们会得出结论：所有功率设置都与对照不同。

在处理与对照的比较中，一个好的做法是让对照处理取比其他处理（设为 $n$）更多的观测值（设为 $n_{a}$），并假定其余 $a-1$ 个处理的观测值个数相等。比值 $n_{a}/n$ 应取为约等于处理总数的平方根，即取 $n_{a}/n = \sqrt{a}$。