11.3 二阶响应面的分析
当试验者已比较接近最优点时,通常需要包含曲率的模型来近似响应。在大多数情况下,二阶模型
y=β0+i=1∑kβixi+i=1∑kβiixi2+i<j∑βijxixj+ϵ(11.4) 已经足够。本节介绍如何利用拟合模型确定各个 x 的最优操作条件,并描述响应面的性质。
11.3.1 驻点的位置¶
假设要寻找使预测响应达到最优的 x1,x2,…,xk 水平。如果这样的点存在,则在该点有 ∂y^/∂x1=∂y^/∂x2=⋯=∂y^/∂xk=0。这一点记为 x1,s,x2,s,…,xk,s,称为驻点。驻点可能是响应的极大值点、极小值点或鞍点。这三种情形分别见图 11.6、11.7 和 11.8。


图 11.6 具有极大值的响应面及其等高线图

(a)响应面

(b)等高线图
图 11.7 具有极小值的响应面及其等高线图


(b)等高线图
图 11.8 具有鞍点(极小极大点)的响应面及其等高线图
等高线图在响应面研究中具有非常重要的作用。借助响应面分析软件绘制等高线图,试验者通常能够描述曲面的形状,并以合理的精度确定最优点的位置。
驻点的位置可以用一般的数学方法求出。将拟合的二阶模型写成矩阵形式,有
y^=β0^+x′b+x′Bx(11.5) 其中
x=⎣⎡x1x2⋮xk⎦⎤b=⎣⎡β^1β^2⋮β^k⎦⎤且B=⎣⎡β^11,对称β^12/2,β^22,…,…,⋱β^1k/2β^2k/2β^kk⎦⎤ 即 b 是由一阶回归系数组成的 k×1 向量,B 是一个 k×k 对称矩阵,其主对角线元素为纯二次项系数 β^ii,非对角线元素为混合二次项系数 β^ij(i=j)的一半。将 y^ 对向量 x 各分量的导数置为零,得到
∂x∂y^=b+2Bx=0(11.6) 驻点是式(11.6)的解,即
xs=−21B−1b(11.7) 此外,将式(11.7)代入式(11.5),可得到驻点处的预测响应:
y^s=β^0+21xs′b(11.8) 11.3.2 响应面性质的判定¶
找到驻点后,通常还需要判定其邻域内响应面的性质,即确定该驻点是响应的极大值点、极小值点还是鞍点。我们通常也希望研究响应对变量 x1,x2,…,xk 的相对敏感程度。
如前所述,最直接的方法是检查拟合模型的等高线图。若只有两个或三个过程变量(各个 x),等高线图的绘制和解释相对容易。不过,即使变量较少,一种更正式的分析方法——典则分析——也可能很有用。
首先将模型变换到以驻点 xs 为原点的新坐标系,再旋转坐标轴,使其与拟合响应面的主轴平行。这一变换如图 11.9 所示。可以证明,变换后的拟合模型为
y^=y^s+λ1w12+λ2w22+⋯+λkwk2(11.9) 其中,{wi} 是变换后的自变量,{λi} 为常数。式(11.9)称为模型的典则形式。此外,{λi} 正是矩阵 B 的特征值或特征根。
可以根据驻点以及 {λi} 的符号和大小判定响应面的性质。首先假定驻点位于拟合二阶模型的探索区域内。如果所有 λi 均为正,xs 是极小值点;如果全部为负,则是极大值点;如果有正有负,则是鞍点。此外,∣λi∣ 最大所对应的 wi 方向是曲面最陡峭的方向。例如,图 11.9 中的 xs 是极大值点(λ1 和 λ2 均为负),且 ∣λ1∣>∣λ2∣。

图 11.9 二阶模型的典则形式
例 11.2¶
继续分析例 11.1 中的化学过程。仅用表 11.4 的设计无法拟合关于 x1 和 x2 的二阶模型。试验者决定增补足够的试验点,以便拟合二阶模型。[1]她在 (x1=0,x2=±1.414) 和 (x1=±1.414,x2=0) 处增加四次观测。完整试验见表 11.6,设计见图 11.10。这种设计称为中心复合设计(CCD),将在第 11.4.2 节进一步讨论。在研究的第二阶段,还关注产品的黏度和分子量这两个响应;相应数据也列在表 11.6 中。
表 11.6¶
例 11.2 的中心复合设计
| 自然变量 | 编码变量 | 响应 |
| $\xi_1$ | $\xi_2$ | $x_1$ | $x_2$ | $y_1$ (Yield) | $y_2$ (Viscosity) | $y_3$ (Molecular Weight) |
| 80 | 170 | -1 | -1 | 76.5 | 62 | 2940 |
| 80 | 180 | -1 | 1 | 77.0 | 60 | 3470 |
| 90 | 170 | 1 | -1 | 78.0 | 66 | 3680 |
| 90 | 180 | 1 | 1 | 79.5 | 59 | 3890 |
| 85 | 175 | 0 | 0 | 79.9 | 72 | 3480 |
| 85 | 175 | 0 | 0 | 80.3 | 69 | 3200 |
| 85 | 175 | 0 | 0 | 80.0 | 68 | 3410 |
| 85 | 175 | 0 | 0 | 79.7 | 70 | 3290 |
| 85 | 175 | 0 | 0 | 79.8 | 71 | 3500 |
| 92.07 | 175 | 1.414 | 0 | 78.4 | 68 | 3360 |
| 77.93 | 175 | -1.414 | 0 | 75.6 | 71 | 3020 |
| 85 | 182.07 | 0 | 1.414 | 78.5 | 58 | 3630 |
| 85 | 167.93 | 0 | -1.414 | 77.0 | 57 | 3150 |
图 11.10 例 11.2 的中心复合设计
下面着重为产率响应 y1 拟合二次模型(另外两个响应将在第 11.3.4 节讨论)。通常使用计算机软件拟合响应面并绘制等高线图。表 11.7 给出了 Design-Expert 的输出。该软件首先计算模型中线性项、二次项和三次项的“序贯平方和(附加平方和)”。由于 CCD 的试验次数不足以支持完整三次模型,软件对三次模型给出了混杂警告。根据二次项很小的 P 值,决定为产率拟合二阶模型。计算机输出分别给出了以编码变量和自然变量(实际因子水平)表示的最终模型。
图 11.11 给出了以过程变量时间和温度表示的产率三维响应面和等高线图。从图中容易看出,最优点非常接近温度 175∘F、反应时间 85 分钟的位置,而且该点是响应的极大值点。从等高线图还可看出,该过程对反应时间变化的敏感程度可能略高于对温度变化的敏感程度。
也可以利用式(11.7)的一般解确定驻点的位置。注意到(纯二次系数多保留两位,以便与特征值计算一致)
b=[0.9950.515]B=[−1.376250.12500.1250−1.00125] 由式(11.7),驻点为
xs=−21B−1b=−21[−0.7345−0.0917−0.0917−1.0096][0.9950.515]=[0.3890.306] 
即 x1,s=0.389、x2,s=0.306。用自然变量表示,驻点满足
0.389=5ξ1−850.306=5ξ2−175 因而反应时间为 ξ1=86.95≃87 分钟,温度为 ξ2=176.53≃176.5∘F。这与目测图 11.11 等高线图所确定的驻点非常接近。利用式(11.8),可得驻点处的预测响应 y^s=80.21。
还可以采用本节介绍的典则分析来判定响应面的性质。首先需要将拟合模型写成典则形式(式 11.9)。特征值 λ1 和 λ2 是下列行列式方程的根:
∣B−λI∣=0∣∣−1.37625−λ0.12500.1250−1.00125−λ∣∣=0 化简得到
λ2+2.3775λ+1.3623453=0 此二次方程的根为 λ1=−0.9634、λ2=−1.4141。因此,拟合模型的典则形式为
y^=80.21−0.9634w12−1.4141w22 因为两个特征值均为负,且驻点位于探索区域内,所以可断定该驻点是极大值点。
表 11.7
使用 Design-Expert 为例 11.2 的产率响应拟合模型的计算机输出
| 来源 | 平方和 | DF | 均方 | F 值 | P 值 | |
| 均值 | 80062.16 | 1 | 80062.16 | | | |
| 线性 | 10.04 | 2 | 5.02 | 2.69 | 0.1166 | |
| 2FI | 0.25 | 1 | 0.25 | 0.12 | 0.7350 | |
| 二次 | 17.95 | 2 | 8.98 | 126.88 | <0.001 | 建议 |
| 三次 | 2.042E-003 | 2 | 1.021E-003 | 0.010 | 0.9897 | 混杂 |
| 残差 | 0.49 | 5 | 0.099 | | | |
| 总计 | 80090.90 | 13 | 6160.84 | | | |
“序贯模型平方和”:选择附加项仍显著的最高阶多项式。
失拟检验
| 来源 | 平方和 | DF | 均方 | F 值 | P 值 | |
| 线性 | 18.49 | 6 | 3.08 | 58.14 | 0.0008 | |
| 2FI | 18.24 | 5 | 3.65 | 68.82 | 0.0006 | |
| 二次 | 0.28 | 3 | 0.094 | 1.78 | 0.2898 | 建议 |
| 三次 | 0.28 | 1 | 0.28 | 5.31 | 0.0826 | 混杂 |
| 纯误差 | 0.21 | 4 | 0.053 | | | |
“失拟检验”:所选模型的失拟应不显著。
模型汇总统计量
| 来源 | 标准差 | R² | 调整 R² | 预测 R² | PRESS | |
| 线性 | 1.37 | 0.3494 | 0.2193 | -0.0435 | 29.99 | |
| 2FI | 1.43 | 0.3581 | 0.1441 | -0.2730 | 36.59 | |
| 二次 | 0.27 | 0.9828 | 0.9705 | 0.9184 | 2.35 | 建议 |
| 三次 | 0.31 | 0.9828 | 0.9588 | 0.3622 | 18.33 | 混杂 |
“模型汇总统计量”:重点选择使 PRESS 最小,或等价地使预测 R2 最大的模型。
响应:产率
响应面二次模型的方差分析¶
方差分析表〔偏平方和〕
| 来源 | 平方和 | DF | 均方 | F 值 | P 值 |
| 模型 | 28.25 | 5 | 5.65 | 79.85 | <0.0001 |
| A | 7.92 | 1 | 7.92 | 111.93 | <0.0001 |
| B | 2.12 | 1 | 2.12 | 30.01 | 0.0009 |
| $A^2$ | 13.18 | 1 | 13.18 | 186.22 | <0.0001 |
| $B^2$ | 6.97 | 1 | 6.97 | 98.56 | <0.0001 |
| AB | 0.25 | 1 | 0.25 | 3.53 | 0.1022 |
| 残差 | 0.50 | 7 | 0.071 | | |
| 失拟 | 0.28 | 3 | 0.094 | 1.78 | 0.2898 |
| 纯误差 | 0.21 | 4 | 0.053 | | |
| 校正总计 | 28.74 | 12 | | | |
| 标准差 | 0.27 | R² | 0.9828 |
| 均值 | 78.48 | 调整 R² | 0.9705 |
| C.V. | 0.34 | 预测 R² | 0.9184 |
| PRESS | 2.35 | 充分精度 | 23.018 |
表 11.7(续)
| 因子 | 系数估计 | DF | 标准误 | 95% 置信下限 | 95% 置信上限 | VIF |
| 截距 | 79.94 | 1 | 0.12 | 79.66 | 80.22 | |
| A—时间 | 0.99 | 1 | 0.094 | 0.77 | 1.22 | 1.00 |
| B—温度 | 0.52 | 1 | 0.094 | 0.29 | 0.74 | 1.00 |
| $A^{2}$ | -1.38 | 1 | 0.10 | -1.61 | -1.14 | 1.02 |
| $B^{2}$ | -1.00 | 1 | 0.10 | -1.24 | -0.76 | 1.02 |
| AB | 0.25 | 1 | 0.13 | -0.064 | 0.56 | 1.00 |
以编码因子表示的最终方程:
y^1=79.94+0.995x1+0.515x2−1.37625x12−1.00125x22+0.250x1x2 以实际因子表示的最终方程:
产率 =
-1430.52285
+7.80749 × 时间
+13.27053 × 温度
-0.055050 × 时间²
-0.040050 × 温度²
+0.010000 × 时间 × 温度
个案诊断统计量
| 试验顺序 | 标准顺序 | 实际值 | 预测值 | 残差 | 杠杆值 | 学生化残差 | Cook 距离 | 异常值 t |
| 8 | 1 | 76.50 | 76.30 | 0.20 | 0.625 | 1.213 | 0.409 | 1.264 |
| 6 | 2 | 78.00 | 77.79 | 0.21 | 0.625 | 1.275 | 0.452 | 1.347 |
| 9 | 3 | 77.00 | 76.83 | 0.17 | 0.625 | 1.027 | 0.293 | 1.032 |
| 11 | 4 | 79.50 | 79.32 | 0.18 | 0.625 | 1.089 | 0.329 | 1.106 |
| 12 | 5 | 75.60 | 75.78 | -0.18 | 0.625 | -1.107 | 0.341 | -1.129 |
| 10 | 6 | 78.40 | 78.59 | -0.19 | 0.625 | -1.195 | 0.396 | -1.240 |
| 7 | 7 | 77.00 | 77.21 | -0.21 | 0.625 | -1.283 | 0.457 | -1.358 |
| 1 | 8 | 78.50 | 78.67 | -0.17 | 0.625 | -1.019 | 0.289 | -1.023 |
| 5 | 9 | 79.90 | 79.94 | -0.040 | 0.200 | -0.168 | 0.001 | -0.156 |
| 3 | 10 | 80.30 | 79.94 | 0.36 | 0.200 | 1.513 | 0.095 | 1.708 |
| 13 | 11 | 80.00 | 79.94 | 0.060 | 0.200 | 0.252 | 0.003 | 0.235 |
| 2 | 12 | 79.70 | 79.94 | -0.24 | 0.200 | -1.009 | 0.042 | -1.010 |
| 4 | 13 | 79.80 | 79.94 | -0.14 | 0.200 | -0.588 | 0.014 | 0.559 |


图 11.11 例 11.2 中产率响应的等高线图与响应面图
某些响应面问题需要确定典则变量 {wi} 与设计变量 {xi} 之间的关系。如果无法在驻点处运行过程,这一点尤其重要。例如,假定例 11.2 中反应时间 87 分钟、温度 176.5∘F 的因子组合成本过高,无法采用。此时希望从驻点“退回”到成本较低的位置,同时避免产率大幅降低。模型的典则形式表明,沿 w1 方向移动引起的产率损失较小。要利用典则形式进行探索,需要将 (w1,w2) 空间中的点换算为 (x1,x2) 空间中的点。
一般而言,变量 x 与典则变量 w 的关系为
w=M′(x−xs) 其中 M 为 k×k 正交矩阵。M 的各列是与 {λi} 对应的归一化特征向量。即,若 mi 为 M 的第 i 列,则它满足
(B−λiI)mi=0(11.10) 并且 ∑j=1kmji2=1。
以例 11.2 的拟合二阶模型说明这一过程。当 λ1=−0.9634 时,式(11.10)变为
[(−1.37625+0.9634)0.12500.1250(−1.00125+0.9634)][m11m21]=[00] 即
−0.4129m11+0.1250m21=00.1250m11−0.0379m21=0 我们需要这些方程的归一化解,即满足 m112+m212=1 的解。这些方程的解并不唯一,因此最方便的方法是为其中一个未知数任意赋值,解出其余未知数,再将解归一化。令 m21∗=1,可得 m11∗=0.3027。将二者除以
(m11∗)2+(m21∗)2=(0.3027)2+(1)2=1.0448 可得到归一化解
m11=1.0448m11∗=1.04480.3027=0.2898 以及
m21=1.0448m21∗=1.04481=0.9571 这就是矩阵 M 的第一列。
对 λ2=−1.4141 重复上述过程,可得矩阵 M 的第二列为 m12=−0.9571、m22=0.2898。因此
M=[0.28980.9571−0.95710.2898] 变量 w 与 x 的关系为
[w1w2]=[0.2898−0.95710.95710.2898][x1−0.389x2−0.306] 即
w1=0.2898(x1−0.389)+0.9571(x2−0.306)w2=−0.9571(x1−0.389)+0.2898(x2−0.306) 如果希望探索驻点附近的响应面,可以先在 (w1,w2) 空间中确定适当的观测点,再利用上述关系将这些点转换到 (x1,x2) 空间,以便实际开展试验。
11.3.3 脊形系统¶
除上一节讨论的典型极大值、极小值和鞍点响应面之外,还经常遇到这些曲面的变形,尤其是脊形系统。考虑前面式(11.9)给出的二阶模型典则形式:
y^=y^s+λ1w12+λ2w22+⋯+λkwk2 假定驻点 xs 位于试验区域内,且一个或多个 λi 非常小(例如 λi≃0)。此时,响应变量对与这些小特征值相乘的变量 wi 非常不敏感。图 11.12 给出了 k=2、λ1=0 时的等高线图。(实际中,λ1 通常接近零而不恰好等于零。)理论上,这一响应面的典则模型为
y^=y^s+λ2w22 其中 λ2 为负。注意,曲面沿 w1 方向严重拉长,在 y^=70 处形成一条中心线,最优点可取该线上的任何一点。这种响应面称为平稳脊形系统。

图 11.12 平稳脊形系统的等高线图

图 11.13 上升脊形系统的等高线图
如果驻点远在拟合二阶模型的探索区域之外,且一个或多个 λi 接近零,则曲面可能呈上升脊形。图 11.13 给出了 k=2、λ1 接近零、λ2 为负时的上升脊形。在这种系统中,由于 xs 位于模型拟合区域之外,不能对真实曲面或驻点作出推断,但值得沿 w1 方向进一步探索。如果 λ2 为正,则称为下降脊形系统。
11.3.4 多响应问题¶
许多响应面问题涉及多个响应的分析。例如,例 11.2 中测量了三个响应,但前面的过程优化只考虑产率响应 y1。
同时考虑多个响应时,首先为每个响应建立适当的响应面模型,然后寻找一组操作条件,使所有响应在某种意义上达到最优,或至少保持在期望的范围内。Myers、Montgomery 和 Anderson-Cook(2016)详细讨论了多响应问题。
例 11.2 中黏度和分子量响应(分别为 y2 和 y3)的模型为
y^2=70.00−0.16x1−0.95x2−0.69x12−6.69x22−1.25x1x2y^3=3386.2+205.1x1+177.4x2 用时间 ξ1 和温度 ξ2 的自然水平表示,这些模型为
y^2=−9030.74+13.393ξ1+97.708ξ2−2.75×10−2ξ12−0.26757ξ22−5×10−2ξ1ξ2 以及
y^3=−6308.8+41.025ξ1+35.473ξ2 图 11.14 和 11.15 给出了这些模型的等高线图和响应面图。
当过程变量较少时,一种相对直接且有效的多响应优化方法是叠加各响应的等高线图。图 11.16 叠加了例 11.2 中三个响应的等高线,所采用的边界为产率 y1≥78.5、黏度 62≤y2≤68 和分子量 y3≤3400。如果这些边界代表过程必须满足的重要条件,则如图 11.16 的未加阴影区域所示,有多个时间与温度的组合能够使过程达到要求。试验者可以目测等高线图,选择适当的操作条件。例如,图中两个可行操作区域中,较大的区域很可能更受关注。

(a)等高线图

(b)响应面图
图 11.14 例 11.2 中黏度的等高线图与响应面图

(a)等高线图

(b)响应面图
图 11.15 例 11.2 中分子量的等高线图与响应面图
设计变量超过三个时,叠加等高线图会变得不便,因为等高线图是二维的,绘图时必须固定其余 k−2 个设计变量。往往需要反复尝试,才能确定应固定哪些因子,以及选择什么水平才能最好地展示曲面。因此,在实践中需要更正式的多响应优化方法。

图 11.16 例 11.2 中叠加产率、黏度和分子量响应面所得的最优区域
一种常用方法是将问题表述为约束优化问题并求解。以例 11.2 为例,可以写成
最大化y1约束条件62≤y2≤68y3≤3400 有多种数值方法可以求解这类问题,有时统称为非线性规划方法。Design-Expert 使用直接搜索程序求解这一形式的问题,得到两个解:
时间=83.5温度=177.1y^1=79.5 以及
时间=86.6温度=172.25y^1=79.5 第一个解位于设计空间中上方较小的可行区域(见图 11.16),第二个解位于较大的区域。两个解都非常接近约束边界。
另一种有用的方法是 Derringer 和 Suich(1980)推广的同时优化技术,其核心是满意度函数。首先将每个响应 yi 转换为单项满意度函数 di,其取值范围为
0≤di≤1 当响应 yi 达到目标值时,di=1;当响应超出可接受区域时,di=0。然后选择设计变量,使总体满意度达到最大:
D=(d1⋅d2⋅⋅⋅dm)1/m 其中 m 为响应数。如果任何一个单项响应不可接受,则总体满意度为零。
单项满意度函数的形式如图 11.17 所示。若响应 y 的目标是达到最大值 T,则
d=⎩⎨⎧0(T−Ly−L)r1y<LL≤y≤Ty>T(11.11) 当权重 r=1 时,满意度函数是线性的。选择 r>1 会更强调接近目标值,而选择 0<r<1 则降低这一要求。若响应的目标是达到最小值,则
d=⎩⎨⎧1(U−TU−y)r0y<TT≤y≤Uy>U(11.12) 
(a)目标是使 y 最大

(b)目标是使 y 最小

(c)目标是使 y 尽可能接近目标值
图 11.17 用于同时优化的单项满意度函数
图 11.17c 中的双侧满意度函数假定目标值位于下限 L 与上限 U 之间,其定义为
d=⎩⎨⎧0(T−Ly−L)r1(U−TU−y)r20y<LL≤y≤TT≤y≤Uy>U(11.13) 利用 Design-Expert 的满意度函数方法求解例 11.2。对产率响应,取目标值 T=80、下限 L=70,并将这一单项满意度的权重设为 1。对黏度响应,取 T=65、L=62、U=68,以符合规格要求,且两侧权重均为 r1=r2=1。最后规定,分子量在 3200~3400 之间均可接受。计算得到两个解。
解 1¶
| 解 2 | Time = 86.5 $\hat{y}_{1} = 78.8$ | Temp = 170.5 $\hat{y}_{2} = 65$ | D = 0.822 $\hat{y}_{3} = 3287$ |
| Time = 82 $\hat{y}_{1} = 78.5$ | Temp = 178.8 $\hat{y}_{2} = 65$ | D = 0.792 $\hat{y}_{3} = 3400$ |
解 1 的总体满意度最高,黏度恰好达到目标值,分子量也在可接受范围内。这个解位于图 11.16 中较大的操作区域,第二个解位于较小区域。图 11.18 给出了总体满意度函数 D 的响应面图和等高线图。


图 11.18 例 11.2 中总体满意度函数的响应面图与等高线图