13.3 两因子混合模型
现在考虑因子 A 为固定因子、因子 B 为随机因子的情况,这称为混合模型方差分析。线性统计模型为
yijk=μ+τi+βj+(τβ)ij+ϵijk⎩⎨⎧i=1,2,…,aj=1,2,…,bk=1,2,…,n(13.8) 这里,τi 是固定效应,βj 是随机效应,交互作用 (τβ)ij 也假定为随机效应,ϵijk 是随机误差。假定固定效应满足 ∑i=1aτi=0,βj 是服从 N(0,σβ2) 的独立随机变量。交互作用效应 (τβ)ij 是均值为零、方差为 [(a−1)/a]στβ2 的正态随机变量,但交互作用分量对固定因子的水平求和等于零,即
i=1∑a(τβ)ij=(τβ).j=0j=1,2,…,b 这一约束意味着,固定因子不同水平所对应的某些交互作用分量并不独立。事实上,可以证明,
Cov[(τβ)ij,(τβ)i′j]=−a1στβ2i=i′ 当 j=j′ 时,(τβ)ij 与 (τβ)ij′ 的协方差为零;随机误差 ϵijk 独立服从 N(0,σ2)。由于交互作用效应对固定因子各水平的和为零,这种混合模型通常称为受限模型。
为简化期望均方,在此模型中将 (τβ)ij 的方差定义为 [(a−1)/a]στβ2,而不是 στβ2。约束 (τβ)⋅j=0 也会影响期望均方。可以证明,
E(MSA)E(MSB)E(MSAB)=σ2+nστβ2+a−1bn∑i=1aτi2,=σ2+anσβ2,=σ2+nστβ2.(13.9) 以及
E(MSE)=σ2 F0=MSABMSA 因此,检验固定因子各水平的均值相等,即 H0:τi=0(所有 i),所用的统计量为
其参考分布为 Fa−1,(a−1)(b−1)。检验 H0:σβ2=0 所用的统计量为
F0=MSEMSB 其参考分布为 Fb−1,ab(n−1)。最后,检验交互作用假设 H0:στβ2=0 应使用
F0=MSEMSAB 其参考分布为 F(a−1)(b−1),ab(n−1)。
在混合模型中,固定因子效应可以估计为
μ^=y…τ^i=yi..−y…i=1,2,…,a(13.10) 方差分量 σβ2,στβ2 和 σ2 可用方差分析法估计。去掉式(13.9)的第一个方程后,剩下三个含三个未知数的方程,解得
σ^β2=anMSB−MSEσ^τβ2=nMSAB−MSE(13.11) 以及
σ^2=MSE 这一方法可以用于估计任何混合模型的方差分量。删去含固定效应分量的期望均方方程后,其余方程可用于求解各方差分量。
在混合模型中,试验者可能希望对固定因子的个别处理均值进行假设检验或构造置信区间。使用这些方法时,必须正确选择处理均值的标准误。固定效应处理均值所用的标准误为
[每个处理均值所含的观测数检验固定效应的均方]1/2=bnMSAB 与固定效应模型中的标准误形式相同,只是将 MSE 替换为假设检验所用的均方。这里的标准误适用于固定效应的比较;包含随机总体均值不确定性的绝对处理均值估计还需考虑相应随机效应。
例 13.2¶
再论测量系统能力试验
重新考虑例 13.1 的量具 R&R 试验。现在假定只有这 3 名操作员使用该量具,因此操作员为固定因子。零件仍是随机选取的,所以该试验涉及混合模型。
表 13.5 给出了混合模型的方差分析,计算使用 Minitab 的平衡方差分析程序,并指定采用受限模型。Minitab 还生成了此模型的期望均方。输出中的 Q[2] 表示与固定因子“操作员”效应有关的二次式,即 Q[2]=∑j=1bβj2/(b−1)。结论与例 13.1 相似。由式(13.11)可估计方差分量为
σ^零件2σ^零件×操作员2σ^2=anMS零件−MSE=(3)(2)62.39−0.99=10.23=nMS零件×操作员−MSE=20.71−0.99=−0.14=MSE=0.99 Minitab 输出也给出了这些结果。交互作用方差分量的估计仍为负。适当的处理是像例 13.1 那样拟合简化模型。对于两因子混合模型,这样得到的结果与例 13.1 的简化模型一致。
表 13.5¶
例 13.2 混合模型的方差分析(Minitab),采用受限模型
方差分析 (Balanced Designs)
因子 类型 水平数 水平值
零件 随机 20 1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20
操作员 固定 3 1 2 3
方差分析: y
来源 DF SS MS F P
零件 19 1185.425 62.391 62.92 0.000
操作员 2 2.617 1.308 1.84 0.173
零件*操作员 38 27.050 0.712 0.72 0.861
误差 60 59.500 0.992
总计 119 1274.592
来源 方差 误差 各模型项的期望均方 分量 项 (受限模型)
1 零件 10.2332 4 (4) + 6(1)
2 操作员 3 (4) + 2(3) + 40Q[2]
3 零件*操作员 -0.1399 4 (4) + 2(3)
4 误差 0.9917 (4)
其他混合模型。 混合模型有若干不同形式,它们对随机分量的假定不同于前述受限模型。下面简要讨论其中一种。
考虑模型
yijk=μ+αi+γj+(αγ)ij+ϵijk 其中,αi (i=1,2,…,a) 是满足 ∑i=1aαi=0 的固定效应;γj,(αγ)ij 和 ϵijk 是均值为零的互不相关随机变量,方差分别为 σγ2,σαγ2 和 σ2。这里不再对交互作用施加先前的约束,因此这种形式通常称为非受限混合模型。
可以证明,此模型的期望均方为(见本章补充材料)
E(MSA)E(MSB)E(MSAB)=σ2+nσαγ2+a−1bn∑i=1aαi2,=σ2+nσαγ2+anσγ2,=σ2+nσαγ2.(13.12) 以及
E(MSE)=σ2 与式(13.9)相比,最明显的区别是随机主效应的期望均方中包含了方差分量 σαγ2。(实际上,两种模型对交互作用方差的定义不同,还存在其他区别。)因此,检验随机效应方差分量等于零的假设 H0:σγ2=0,应使用统计量
F0=MSABMSB 而受限模型检验 H0:σβ2=0 时使用的是 F0=MSB/MSE。
两种模型的参数有密切关系。事实上,可以证明,
τiβj(τβ)ijσβ2=αi,=γj+(αγ)⋅j,=(αγ)ij−(αγ)⋅j,=σγ2+aσαγ2. 上述方差关系按参数变换推导。[1]
以及
στβ2=σαγ2 可用方差分析法估计方差分量。参照期望均方可知,与式(13.11)相比,唯一变化是
σ^γ2=anMSB−MSAB(13.13) 这两种模型都是 Scheffé(1956a,1959)提出的混合模型的特例。该模型假定观测值可表示为
yijk=mij+ϵijk⎩⎨⎧i=1,2,…,aj=1,2,…,bk=1,2,…,n 其中,mij 和 ϵijk 是相互独立的随机变量。mij 的结构为
mij=μ+τi+bj+cijE(mij)=μ+τi∑i=1aτi=0 以及
c⋅j=0j=1,2,…,b bj 和 cij 的方差与协方差用 mij 的协方差表示。其他混合模型中的随机效应参数也可以与 bj,cij 联系起来。Scheffé 模型的统计分析与我们的受限模型相同,但一般而言,当 H0:τi=0 成立时,统计量 MSA/MSAB 不一定服从 F 分布。
面对这些不同的混合模型,自然会问:应当使用哪一种?作者倾向于受限模型,但文献中受限和非受限模型都很常见。受限模型实际上稍具一般性,因为同一随机因子水平下两观测值的协方差在受限模型中可正可负,而在非受限模型中只能非负。若随机分量之间的相关结构不强,两种模型都适用,差别较小。对于不平衡设计,非受限模型通常更方便,一些软件在显示期望均方时也始终采用非受限模型。例如 SAS 和 JMP 采用这种形式;Minitab 默认采用非受限模型,但可更改设置。本书后面提到混合模型时,默认采用受限模型结构。不过,若数据中的相关性很强,可能需要使用 Scheffé 模型。模型选择应始终由数据决定。Hocking(1973)对各种混合模型作了清晰的总结。
例 13.3 非受限模型¶
一些软件只支持一种混合模型。Minitab 同时支持受限和非受限模型,但如前所述,默认采用非受限模型。表 13.6 给出了对例 13.2 的试验采用非受限模型时的 Minitab 输出。其期望均方与式(13.12)一致,所得结论与受限模型分析相同,方差分量估计也非常接近。
表 13.6¶
采用非受限模型分析例 13.2 的试验
方差分析 (Balanced Designs)
因子 类型 水平数 水平值
Part 随机 20 1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20
操作员 固定 3 1 2 3
方差分析: y
来源 DF SS MS F P
零件 19 1185.425 62.391 87.65 0.000
操作员 2 2.617 1.308 1.84 0.173
零件*操作员 38 27.050 0.712 0.72 0.861
误差 60 59.500 0.992
总计 119 1274.592
来源 方差 误差 各模型项的期望均方 分量 项 (非受限模型)
1 零件 10.2798 3 (4) + 2(3) + 6(1)
2 操作员 3 (4) + 2(3) + Q[2]
3 零件*操作员 -0.1399 4 (4) + 2(3)
4 误差 0.9917 (4)
表 13.7¶
例 13.2 两因子混合模型的 JMP 输出
| 响应 Y |
| 拟合汇总 |
| R² | | 0.911896 | | | | |
| 调整后的 R² | | 0.91039 | | | | |
| 均方误差平方根 | | 0.995825 | | | | |
| 响应均值 | | 22.39167 | | | | |
| 观测数(或权重和) | | 120 | | | | |
| REML 方差分量估计 |
| 随机 效应 | 方差比 | 方差分量 | 标准误 | 95% 下限 | 95% 上限 | 占总方差百分比 |
| 零件 | 10.36621 | 10.279825 | 3.3738173 | 3.6672642 | 16.892385 | 92.348 |
| 零件*操作员 | -0.141088 | -0.139912 | 0.1219114 | -0.378854 | 0.0990296 | -1.257 |
| 残差 | | 0.9916667 | 0.1810527 | 0.7143057 | 1.4697982 | 8.909 |
| 总计 | 11.131579 | | | | | 100.000 |
| -2 对数似然 = 410.4121524 |
| 方差分量估计的协方差矩阵 |
| 随机 效应 | 零件 | 零件*操作员 | | 残差 | | |
| 零件 | 11.382643 | -0.002222 | | 2.659e-14 | | |
| 零件*操作员 | -0.002222 | 0.0148624 | | -0.01639 | | |
| 残差 | 2.659e-14 | -0.01639 | | 0.0327801 | | |
| 固定效应检验 |
| 来源 | 参数数 | 自由度 | 分母自由度 | F 比值 | P 值 | |
| 操作员 | 2 | 2 | 38 | 1.8380 | 0.1730 | |