SlideShare uma empresa Scribd logo
1 de 46
© Hajime Mizuyama
An Introduction to
Design of Experiments (DOE)
青山学院大学 経営システム工学科
水山 元
mizuyama@ise.aoyama.ac.jp
© Hajime Mizuyama
Part 1
古典的な実験計画法の
基本概念と要因計画
Part 2
直交表と
一部実施要因計画
Part 3
応答曲面法と
最適計画
Part 4
直積実験と
ロバスト設計
© Hajime Mizuyama
一元配置実験の復習
データ 平均
A1 666 643 653 654
A2 664 683 684 677
A3 696 687 705 696
A4 683 655 681 673
675総平均:
© Hajime Mizuyama
因子A データ 総平均 総偏差
総偏差
平方
1 666 675 -9 81
1 643 675 -32 1024
1 653 675 -22 484
2 664 675 -11 121
2 683 675 8 64
2 684 675 9 81
3 696 675 21 441
3 687 675 12 144
3 705 675 30 900
4 683 675 8 64
4 655 675 -20 400
4 681 675 6 36
総偏差平方和の計算
3840平方和:
© Hajime Mizuyama
因子A データ A別平均 総平均 A間偏差 残差
A間偏差
平方
残差
平方
1 666 654 675 -21 12 441 144
1 643 654 675 -21 -11 441 121
1 653 654 675 -21 -1 441 1
2 664 677 675 2 -13 4 169
2 683 677 675 2 6 4 36
2 684 677 675 2 7 4 49
3 696 696 675 21 0 441 0
3 687 696 675 21 -9 441 81
3 705 696 675 21 9 441 81
4 683 673 675 -2 10 4 100
4 655 673 675 -2 -18 4 324
4 681 673 675 -2 8 4 64
総偏差平方和の分解
2670平方和: 1170
© Hajime Mizuyama
総偏差平方和の分解の概念図
A1 A2 A3 A4
640660680700720
y
総平均
A別平均
A間偏差
残差
総偏差
© Hajime Mizuyama
一元配置の分散分析
要因 平方和 自由度 平均平方 F値
A SA fA = I-1 VA = SA /(I-1) FA = VA /Ve
残差 Se fe = I(N-1) Ve = Se /I(N-1) ―
計 ST IN-1 ― ―
要因 平方和 自由度 平均平方 F値 P値
A 2670 3 890 6.085 0.018
残差 1170 8 146.25 ― ―
計 3840 11 ― ― ―
© Hajime Mizuyama
母平均に関する推定
A1 A2 A3 A4
640660680700720
y
母平均 (𝜇 + 𝑎𝑖)の区間推定
𝑦𝑖 ± 𝑡 𝑓𝑒,
1 − 𝛼
2
𝑉𝑒
𝑁
© Hajime Mizuyama
• 因子の値を連続的に変化させることができる.
• 因子の値を変化させるのに伴って,特性の母平均も連続的に,
またある程度なめらかに変化することが多い.
• 因子の値を,実験で取り上げた水準だけでなく,それら以外の
値に設定した場合についても,特性の母平均を推定できるよう
にしたい.
• 因子の値と特性の母平均の間の関係を関数としてモデル化する.
量的因子の場合
© Hajime Mizuyama
構造モデル
𝑦𝑖𝑛 = 𝑓(𝑥𝑖) + 𝑒𝑖𝑛
仮定
– 関数 f には,x の1次式または2次式を用いることが多い.
– 誤差項は互いに独立かつ等分散である.
– 誤差項は期待値ゼロの正規分布に従う.
量的因子の一元配置の構造モデル
連続関数 因子A の値 誤差項
𝒆~𝑁(𝟎, 𝜎𝑒
2
∙ 𝑰)
© Hajime Mizuyama
1次モデルのあてはめ(単回帰分析)
10 20 30 40
640660680700720
y
x
𝑦 = 𝑎0 + 𝑎1 𝑥 + 𝑒
1次モデル
(単回帰モデル)
= 𝑏0 + 𝑏1(𝑥 − 𝑥) + 𝑒
残差
目的変数(従属変数)y
の期待値を,説明変数
(独立変数)x の1次式
で推定するモデル
© Hajime Mizuyama
残差平方和
残差平方和を最小にする条件
最小2乗法によるパラメータ推定
𝑆 𝑒 = 𝑦𝑖𝑛 − 𝑎0 + 𝑎1 𝑥𝑖
2
𝑁
𝑛=1
𝐼
𝑖=1
= 𝑦𝑖𝑛 − 𝑏0 + 𝑏1(𝑥𝑖−𝑥)
2
𝑁
𝑛=1
𝐼
𝑖=1
𝜕𝑆 𝑒
𝜕𝑏0
= −2 𝑦𝑖𝑛 − 𝑏0 − 𝑏1(𝑥𝑖−𝑥)
𝑁
𝑛=1
𝐼
𝑖=1
= 0
𝜕𝑆 𝑒
𝜕𝑏1
= −2 (𝑥𝑖−𝑥) 𝑦𝑖𝑛 − 𝑏0 − 𝑏1(𝑥𝑖−𝑥)
𝑁
𝑛=1
𝐼
𝑖=1
= 0
© Hajime Mizuyama
残差平方和
正規方程式
最小2乗法によるパラメータ推定
𝑆 𝑒 = 𝑦𝑖𝑛 − 𝑎0 + 𝑎1 𝑥𝑖
2
𝑁
𝑛=1
𝐼
𝑖=1
= 𝑦𝑖𝑛 − 𝑏0 + 𝑏1(𝑥𝑖−𝑥)
2
𝑁
𝑛=1
𝐼
𝑖=1
𝐼𝑁𝑏0 + 𝑁𝑏1 (𝑥𝑖−𝑥)
𝐼
𝑖=1
= 𝑦𝑖𝑛
𝑁
𝑛=1
𝐼
𝑖=1
𝑁𝑏0 (𝑥𝑖−𝑥)
𝐼
𝑖=1
+ 𝑁𝑏1 𝑥𝑖 − 𝑥 2
𝐼
𝑖=1
= (𝑥𝑖−𝑥)𝑦𝑖𝑛
𝑁
𝑛=1
𝐼
𝑖=1
𝑏0 = 𝑦
𝑏1 =
(𝑥𝑖 − 𝑥)(𝑦𝑖𝑛 − 𝑦)𝑁
𝑛=1
𝐼
𝑖=1
𝑁 𝑥𝑖 − 𝑥 2𝐼
𝑖=1
=
𝑆 𝑥𝑦
𝑆 𝑥𝑥
© Hajime Mizuyama
残差平方和
回帰係数の推定値
回帰直線
最小2乗法によるパラメータ推定
𝑆 𝑒 = 𝑦𝑖𝑛 − 𝑎0 + 𝑎1 𝑥𝑖
2
𝑁
𝑛=1
𝐼
𝑖=1
= 𝑦𝑖𝑛 − 𝑏0 + 𝑏1(𝑥𝑖−𝑥)
2
𝑁
𝑛=1
𝐼
𝑖=1
𝑏0 = 𝑦 = 675
𝑏1 =
(𝑥𝑖 − 𝑥)(𝑦𝑖𝑛 − 𝑦)𝑁
𝑛=1
𝐼
𝑖=1
𝑁 𝑥𝑖 − 𝑥 2𝐼
𝑖=1
=
𝑆 𝑥𝑦
𝑆 𝑥𝑥
=
1140
1500
= 0.76
𝑦 = 𝑏0 + 𝑏1 𝑥 − 𝑥 = 𝑦 +
𝑆 𝑥𝑦
𝑆 𝑥𝑥
𝑥 − 𝑥 = 675 + 0.76(𝑥 − 25)
© Hajime Mizuyama
因子A x Δx Δx2 y Δy ΔxΔy
1 10 -15 225 666 -9 135
1 10 -15 225 643 -32 480
1 10 -15 225 653 -22 330
2 20 -5 25 664 -11 55
2 20 -5 25 683 8 -40
2 20 -5 25 684 9 -45
3 30 5 25 696 21 105
3 30 5 25 687 12 60
3 30 5 25 705 30 150
4 40 15 225 683 8 120
4 40 15 225 655 -20 -300
4 40 15 225 681 6 90
回帰係数の計算
1140150025 675
© Hajime Mizuyama
回帰モデルの行列表記
ただし,
最小2乗法によるパラメータ推定(行列表記)
𝒚 = 𝑿 ∙ 𝜷 + 𝒆 𝒆~𝑁(𝟎, 𝜎𝑒
2 ∙ 𝑰)
𝒚 =
𝑦11
𝑦12
⋮
𝑦𝐼𝑁
𝒆 =
𝑒11
𝑒12
⋮
𝑒𝐼𝑁
𝑿 =
1 𝑥1 − 𝑥
1 𝑥1 − 𝑥
⋮ ⋮
1 𝑥𝐼 − 𝑥
𝜷 =
𝑏0
𝑏1
1 -15
1 -15
1 -15
1 -5
1 -5
1 -5
1 5
1 5
1 5
1 15
1 15
1 15
666
643
653
664
683
684
696
687
705
683
655
681
© Hajime Mizuyama
ただし,ただし,
残差平方和
正規方程式
回帰係数の推定値
最小2乗法によるパラメータ推定(行列表記)
𝑆 𝑒 = 𝒚 − 𝑿𝜷 ′ 𝒚 − 𝑿𝜷 = 𝒚′ 𝒚 − 𝟐𝜷′𝑿′𝒚 + 𝜷′𝑿′𝑿𝜷
𝜕𝑆 𝑒
𝜕𝜷
= −𝟐𝑿′
𝒚 + 2𝑿′
𝑿𝜷 = 0
𝜷 = 𝑿′
𝑿 −1
𝑿′
𝒚
𝑿′
𝑿 −1
=
1/𝐼𝑁 0
0 1/𝑆 𝑥𝑥
𝑿′ 𝑿 =
𝐼𝑁 0
0 𝑆 𝑥𝑥
=
12 0
0 1500
=
1/12 0
0 1/1500
𝑿′
𝒚 =
8100
1140
=
8100/12
1140/1500
=
675
0.76
© Hajime Mizuyama
因子A 𝑥 𝑦 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 2
𝑦 − 𝑦 2
1 10 666 663.6 -11.4 2.4 129.96 5.76
1 10 643 663.6 -11.4 -20.6 129.96 424.36
1 10 653 663.6 -11.4 -10.6 129.96 112.36
2 20 664 671.2 -3.8 -7.2 14.44 51.84
2 20 683 671.2 -3.8 11.8 14.44 139.24
2 20 684 671.2 -3.8 12.8 14.44 163.84
3 30 696 678.8 3.8 17.2 14.44 295.84
3 30 687 678.8 3.8 8.2 14.44 67.24
3 30 705 678.8 3.8 26.2 14.44 686.44
4 40 683 686.4 11.4 -3.4 129.96 11.56
4 40 655 686.4 11.4 -31.4 129.96 985.96
4 40 681 686.4 11.4 -5.4 129.96 29.16
総偏差平方和の分解
866.4平方和: 2973.6
© Hajime Mizuyama
回帰直線
総偏差平方和の分解の概念図
A1 A2 A3 A4
640660680700720
y
総平均
回帰直線
までの偏差
残差
総偏差
© Hajime Mizuyama
分散分析表の対比
要因 平方和 自由度 平均平方 F値 P値
A 2670 3 890 6.085 0.018
残差 1170 8 146.25 ― ―
計 3840 11 ― ― ―
要因 平方和 自由度 平均平方 F値 P値
1次 866.4 1 866.4 2.914 0.119
残差 2973.6 10 297.4 ― ―
計 3840 11 ― ― ―
1次モデルの分散分析表
一元配置の分散分析表
© Hajime Mizuyama
Lack of fit 検定
要因 平方和 自由度 平均平方 F値 P値
A 2670 3 890 6.085 0.018
1次 866.4 1 866.4 5.924 0.041
LOF 1803.6 2 901.8 6.166 0.024
残差 1170 8 146.25 ― ―
計 3840 11 ― ― ―
1次モデルだけでなく,LOFも有意になった.
⇒ 因子Aの効果は,1次モデルだけでは捉えきれていない.
© Hajime Mizuyama
Lack of fit 検定の概念図
A1 A2 A3 A4
640660680700720
y
総平均
A別平均
A間偏差
残差
総偏差
回帰直線
回帰直線
までの偏差
LOF
© Hajime Mizuyama
回帰係数の分布
すなわち,
母平均の信頼区間
回帰係数の分布と母平均の信頼区間
𝐸 𝜷 = 𝐸 𝑿′ 𝑿 −1 𝑿′ 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝐸 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝑿𝜷 = 𝜷
𝑉𝑎𝑟 𝜷 = 𝑉𝑎𝑟 𝑿′
𝑿 −1
𝑿′
𝒚 = 𝑿′
𝑿 −1
𝑿′
𝑉𝑎𝑟 𝒚 𝑿 𝑿′
𝑿 −1
= 𝑿′ 𝑿 −1 𝑿′ 𝜎𝑒
2 𝑰𝑿 𝑿′ 𝑿 −1 = 𝜎𝑒
2 𝑿′ 𝑿 −1
𝜷~𝑁 𝜷, 𝜎𝑒
2 𝑿′ 𝑿 −1
𝑏0~𝑁 𝑏0, 𝜎𝑒
2
/12
𝑏1~𝑁 𝑏1, 𝜎𝑒
2
/1500
𝐶𝑜𝑣 𝑏0, 𝑏1 = 0
𝑏0 + 𝑏1(𝑥 − 𝑥) ± 𝑡 𝑓𝑒,
1 − 𝛼
2
1
𝐼𝑁
+
𝑥 − 𝑥 2
𝑆 𝑥𝑥
𝑉𝑒
= 𝑁 𝜷, 𝜎𝑒
2 1/𝐼𝑁 0
0 1/𝑆 𝑥𝑥
© Hajime Mizuyama
回帰直線と母平均の信頼区間
10 20 30 40
640660680700720
y
x
© Hajime Mizuyama
回帰モデルの行列表記
ただし,
2次モデルの行列表記
𝒚 = 𝑿 ∙ 𝜷 + 𝒆 𝒆~𝑁(𝟎, 𝜎𝑒
2 ∙ 𝑰)
𝒚 =
𝑦11
𝑦12
⋮
𝑦𝐼𝑁
𝒆 =
𝑒11
𝑒12
⋮
𝑒𝐼𝑁
𝑿 =
1 𝑥1 − 𝑥
1 𝑥1 − 𝑥
⋮ ⋮
1 𝑥𝐼 − 𝑥
𝜷 =
𝑏0
𝑏1
1次モデル
𝑿 =
1 𝑥1 − 𝑥 𝑥1 − 𝑥 2
1 𝑥1 − 𝑥 𝑥1 − 𝑥 2
⋮ ⋮ ⋮
1 𝑥𝐼 − 𝑥 𝑥𝐼 − 𝑥 2
𝜷 =
𝑏0
𝑏1
𝑏2
2次モデル
© Hajime Mizuyama
回帰係数の推定値
2次モデルのあてはめ
𝜷 = 𝑿′
𝑿 −1
𝑿′
𝒚
1 -15 225
1 -15 225
1 -15 225
1 -5 25
1 -5 25
1 -5 25
1 5 25
1 5 25
1 5 25
1 15 225
1 15 225
1 15 225
666
643
653
664
683
684
696
687
705
683
655
681
𝒚 =
12 0 1500
0 1500 0
1500 0 307500
=
𝑿′ 𝒚 =
8100
1140
998700
689.375
0.76
-0.115
𝑿′ 𝑿 =
回帰曲線回帰曲線
𝑦 = 689.375 + 0.76 𝑥 − 25
−0.115 𝑥 − 25 2
© Hajime Mizuyama
因子A 𝑥 𝑦 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 2
𝑦 − 𝑦 2
1 10 666 652.1 -22.9 13.9 524.41 193.21
1 10 643 652.1 -22.9 -9.1 524.41 82.81
1 10 653 652.1 -22.9 0.9 524.41 0.81
2 20 664 682.7 7.7 -18.7 59.29 349.69
2 20 683 682.7 7.7 0.3 59.29 0.09
2 20 684 682.7 7.7 1.3 59.29 1.69
3 30 696 690.3 15.3 5.7 234.09 32.49
3 30 687 690.3 15.3 -3.3 234.09 10.89
3 30 705 690.3 15.3 14.7 234.09 216.09
4 40 683 674.9 -0.1 8.1 0.01 65.61
4 40 655 674.9 -0.1 -19.9 0.01 396.01
4 40 681 674.9 -0.1 6.1 0.01 37.21
総偏差平方和の分解
2453.4平方和: 1386.6
© Hajime Mizuyama
Lack of fit 検定
要因 平方和 自由度 平均平方 F値 P値
A 2670 3 890 6.085 0.018
2次 2453.4 2 1226.7 8.388 0.011
LOF 216.6 1 216.6 1.481 0.258
残差 1170 8 146.25 ― ―
計 3840 11 ― ― ―
2次モデルの場合は,LOFは有意にはならない.
⇒ 因子Aの効果は,2次モデルでほぼ捉えられている.
© Hajime Mizuyama
分散分析表の対比
要因 平方和 自由度 平均平方 F値 P値
A 2670 3 890 6.085 0.018
残差 1170 8 146.25 ― ―
計 3840 11 ― ― ―
要因 平方和 自由度 平均平方 F値 P値
2次 2453.4 2 1226.7 7.962 0.010
残差 1386.6 9 154.1 ― ―
計 3840 11 ― ― ―
2次モデルの分散分析表
一元配置の分散分析表
© Hajime Mizuyama
回帰係数の分布
すなわち,
このとき,𝑦 の分布は,
したがって,母平均の信頼区間は,
回帰係数の分布と母平均の信頼区間
𝐸 𝜷 = 𝐸 𝑿′ 𝑿 −1 𝑿′ 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝐸 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝑿𝜷 = 𝜷
𝑉𝑎𝑟 𝜷 = 𝑉𝑎𝑟 𝑿′ 𝑿 −1 𝑿′ 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝑉𝑎𝑟 𝒚 𝑿 𝑿′ 𝑿 −1
= 𝑿′
𝑿 −1
𝑿′
𝜎𝑒
2
𝑰𝑿 𝑿′
𝑿 −1
= 𝜎𝑒
2
𝑿′
𝑿 −1
𝜷~𝑁 𝜷, 𝜎𝑒
2 𝑿′ 𝑿 −1
𝑦 = 𝒙′𝜷~𝑁 𝒙′𝜷, 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝜎𝑒
2
𝒙′𝜷 ± 𝑡 𝑓𝑒,
1 − 𝛼
2
𝒙′ 𝑿′ 𝑿 −1 𝒙 𝑉𝑒
© Hajime Mizuyama
回帰曲線と母平均の信頼区間
10 20 30 40
640660680700720
© Hajime Mizuyama
応答曲面法
M 個の量的因子を取り上げ,それらの因子の値 x1, x2, ..., xM
と,特性 y の間の関係を表す統計モデル(応答曲面):
𝑦 = 𝑓 𝑥1, 𝑥2, ⋯ , 𝑥 𝑀 + 𝑒
を実験から求める技法,また,そのための実験計画の手法.
応答曲面を表す関数 f としては,主に,1次または2次の多項式
モデルが用いられる.
応答曲面法
© Hajime Mizuyama
1次モデル
2次モデル
仮定
– 因子の値は基準化しておくことが多い.
– 誤差項は互いに独立かつ等分散である.
– 誤差項は期待値ゼロの正規分布に従う.
応答曲面法の構造モデル
𝒆~𝑁(𝟎, 𝜎𝑒
2
∙ 𝑰)
𝑦 = 𝑏0 + 𝑏1 𝑥1 + 𝑏2 𝑥2 + ⋯ + 𝑏 𝑀 𝑥 𝑀 + 𝑒
𝑦 = 𝑏0 + 𝑏1 𝑥1 + 𝑏2 𝑥2 + ⋯ + 𝑏 𝑀 𝑥 𝑀 + 𝑏11 𝑥1
2
+ 𝑏12 𝑥1 𝑥2 + ⋯ + 𝑏 𝑀𝑀 𝑥 𝑀
2
+ 𝑒
© Hajime Mizuyama
計画行列
応答曲面モデルの行列表記
計画行列と応答曲面モデル













MN
M
M
NN x
x
x
x
x
x
x
x
x





2
1
2
22
21
1
12
11
1
1
1
X























NNNMN
M
M
NN xx
xx
xx
x
x
x
x
x
x
x
x
x
x
x
x
21
2212
2111
2
1
2
12
2
11
2
1
2
22
21
1
12
11
1
1
1
X
1次式モデル 2次式モデル
𝒚 = 𝑿 ∙ 𝜷 + 𝒆 𝒆~𝑁(𝟎, 𝜎𝑒
2 ∙ 𝑰)
© Hajime Mizuyama
残差平方和
正規方程式 回帰係数の推定値
回帰係数の分布 母平均の分布
母平均の信頼区間
最小2乗法によるパラメータ推定
𝑆 𝑒 = 𝒚 − 𝑿𝜷 ′ 𝒚 − 𝑿𝜷 = 𝒚′ 𝒚 − 𝟐𝜷′𝑿′𝒚 + 𝜷′𝑿′𝑿𝜷
𝜕𝑆 𝑒
𝜕𝜷
= −𝟐𝑿′
𝒚 + 2𝑿′
𝑿𝜷 = 0 𝜷 = 𝑿′ 𝑿 −1 𝑿′ 𝒚
𝜷~𝑁 𝜷, 𝜎𝑒
2 𝑿′ 𝑿 −1 𝑦 = 𝒙′𝜷~𝑁 𝒙′𝜷, 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝜎𝑒
2
𝒙′𝜷 ± 𝑡 𝑓𝑒,
1 − 𝛼
2
𝒙′ 𝑿′ 𝑿 −1 𝒙 𝑉𝑒
© Hajime Mizuyama
• 中心複合計画
• Box and Behnken 計画
• 最適計画
– D-最適計画
– G-最適計画
応答曲面計画
© Hajime Mizuyama
中心複合計画の概念図
2水準(一部実施)要因計画 軸上点 中心点
© Hajime Mizuyama
x1 x2 x3
1 -1 -1 -1
2 1 -1 -1
3 -1 1 -1
4 1 1 -1
5 -1 -1 1
6 1 -1 1
7 -1 1 1
8 1 1 1
9 −𝛼 0 0
10 𝛼 0 0
11 0 −𝛼 0
12 0 𝛼 0
13 0 0 −𝛼
14 0 0 𝛼
15 0 0 0
16 0 0 0
17 0 0 0
18 0 0 0
中心複合計画の例
2水準要因計画
各因子の1次の
主効果と,1次
×1次の2因子
交互作用を推定
中心点
純粋な誤差分散
の推定
最低でも3回,
できれば5回程度
の繰返し
軸上点
各因子の2次の
主効果を推定
𝛼 の値は,設定
の容易さ,中心
点からの距離,
回転可能性など
を考慮して決定
𝛼 = 𝑁𝐹𝐷
1/4
© Hajime Mizuyama
1 x1 x2 x3 x1
2 x1x2 x1x3 x2
2 x2x3 x3
2
1 -1 -1 -1 1 1 1 1 1 1
1 1 -1 -1 1 -1 -1 1 1 1
1 -1 1 -1 1 -1 1 1 -1 1
1 1 1 -1 1 1 -1 1 -1 1
1 -1 -1 1 1 1 -1 1 -1 1
1 1 -1 1 1 -1 1 1 -1 1
1 -1 1 1 1 -1 -1 1 1 1
1 1 1 1 1 1 1 1 1 1
1 −𝛼 0 0 𝛼2 0 0 0 0 0
1 𝛼 0 0 𝛼2 0 0 0 0 0
1 0 −𝛼 0 0 0 0 𝛼2 0 0
1 0 𝛼 0 0 0 0 𝛼2 0 0
1 0 0 −𝛼 0 0 0 0 0 𝛼2
1 0 0 𝛼 0 0 0 0 0 𝛼2
1 0 0 0 0 0 0 0 0 0
1 0 0 0 0 0 0 0 0 0
1 0 0 0 0 0 0 0 0 0
1 0 0 0 0 0 0 0 0 0
中心複合計画の計画行列の例
𝑿 =
© Hajime Mizuyama
• 中心複合計画
• Box and Behnken 計画
• 最適計画
– D-最適計画
– G-最適計画
応答曲面計画
© Hajime Mizuyama
Box and Behnken 計画の概念図
2因子毎の要因計画(他の因子の値は0とする) 中心点
© Hajime Mizuyama
x1 x2 x3
1 -1 -1 0
2 -1 1 0
3 1 -1 0
4 1 1 0
5 0 -1 -1
6 0 -1 1
7 0 1 -1
10 0 1 1
11 -1 0 -1
12 1 0 -1
13 -1 0 1
14 1 0 1
15 0 0 0
16 0 0 0
17 0 0 0
18 0 0 0
Box and Behnken 計画の例
© Hajime Mizuyama
1 x1 x2 x3 x1
2 x1x2 x1x3 x2
2 x2x3 x3
2
1 -1 -1 0 1 1 0 1 0 0
1 -1 1 0 1 -1 0 1 0 0
1 1 -1 0 1 -1 0 1 0 0
1 1 1 0 1 1 0 1 0 0
1 0 -1 -1 0 0 0 1 1 1
1 0 -1 1 0 0 0 1 -1 1
1 0 1 -1 0 0 0 1 -1 1
1 0 1 1 0 0 0 1 1 1
1 -1 0 -1 1 0 1 0 0 1
1 1 0 -1 1 0 -1 0 0 1
1 -1 0 1 1 0 -1 0 0 1
1 1 0 1 1 0 1 0 0 1
1 0 0 0 0 0 0 0 0 0
1 0 0 0 0 0 0 0 0 0
1 0 0 0 0 0 0 0 0 0
1 0 0 0 0 0 0 0 0 0
Box and Behnken 計画の計画行列の例
𝑿 =
© Hajime Mizuyama
• 中心複合計画
• Box and Behnken 計画
• 最適計画
– D-最適計画
– G-最適計画
応答曲面計画
© Hajime Mizuyama
最適計画
実験計画(計画行列)の作成を最適化問題として取り扱う.
制約条件
実験点数,実験可能領域
目的関数
D-最適基準 G-最適基準
最適計画の考え方
det(𝑿′
𝑿) → 最大化 max
𝒙
{𝒙′
𝑿′
𝑿 −1
𝒙} → 最小化
𝜷~𝑁 𝜷, 𝜎𝑒
2 𝑿′ 𝑿 −1 𝑦 = 𝒙′𝜷~𝑁 𝒙′𝜷, 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝜎𝑒
2
実験計画法入門 Part 3

Mais conteúdo relacionado

Mais procurados

相関と因果について考える:統計的因果推論、その(不)可能性の中心
相関と因果について考える:統計的因果推論、その(不)可能性の中心相関と因果について考える:統計的因果推論、その(不)可能性の中心
相関と因果について考える:統計的因果推論、その(不)可能性の中心
takehikoihayashi
 
スペクトラルグラフ理論入門
スペクトラルグラフ理論入門スペクトラルグラフ理論入門
スペクトラルグラフ理論入門
irrrrr
 

Mais procurados (20)

相関と因果について考える:統計的因果推論、その(不)可能性の中心
相関と因果について考える:統計的因果推論、その(不)可能性の中心相関と因果について考える:統計的因果推論、その(不)可能性の中心
相関と因果について考える:統計的因果推論、その(不)可能性の中心
 
主成分分析(Pca)
主成分分析(Pca)主成分分析(Pca)
主成分分析(Pca)
 
直交領域探索
直交領域探索直交領域探索
直交領域探索
 
決定森回帰の信頼区間推定, Benign Overfitting, 多変量木とReLUネットの入力空間分割
決定森回帰の信頼区間推定, Benign Overfitting, 多変量木とReLUネットの入力空間分割決定森回帰の信頼区間推定, Benign Overfitting, 多変量木とReLUネットの入力空間分割
決定森回帰の信頼区間推定, Benign Overfitting, 多変量木とReLUネットの入力空間分割
 
PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説PCAの最終形態GPLVMの解説
PCAの最終形態GPLVMの解説
 
星野「調査観察データの統計科学」第3章
星野「調査観察データの統計科学」第3章星野「調査観察データの統計科学」第3章
星野「調査観察データの統計科学」第3章
 
GEE(一般化推定方程式)の理論
GEE(一般化推定方程式)の理論GEE(一般化推定方程式)の理論
GEE(一般化推定方程式)の理論
 
機械学習モデルのハイパパラメータ最適化
機械学習モデルのハイパパラメータ最適化機械学習モデルのハイパパラメータ最適化
機械学習モデルのハイパパラメータ最適化
 
ベイズファクターとモデル選択
ベイズファクターとモデル選択ベイズファクターとモデル選択
ベイズファクターとモデル選択
 
第4回DARM勉強会 (構造方程式モデリング)
第4回DARM勉強会 (構造方程式モデリング)第4回DARM勉強会 (構造方程式モデリング)
第4回DARM勉強会 (構造方程式モデリング)
 
最適化計算の概要まとめ
最適化計算の概要まとめ最適化計算の概要まとめ
最適化計算の概要まとめ
 
グラフニューラルネットワーク入門
グラフニューラルネットワーク入門グラフニューラルネットワーク入門
グラフニューラルネットワーク入門
 
Oracle property and_hdm_pkg_rigorouslasso
Oracle property and_hdm_pkg_rigorouslassoOracle property and_hdm_pkg_rigorouslasso
Oracle property and_hdm_pkg_rigorouslasso
 
漸近理論をスライド1枚で(フォローアッププログラムクラス講義07132016)
漸近理論をスライド1枚で(フォローアッププログラムクラス講義07132016)漸近理論をスライド1枚で(フォローアッププログラムクラス講義07132016)
漸近理論をスライド1枚で(フォローアッププログラムクラス講義07132016)
 
Fisher線形判別分析とFisher Weight Maps
Fisher線形判別分析とFisher Weight MapsFisher線形判別分析とFisher Weight Maps
Fisher線形判別分析とFisher Weight Maps
 
機械学習による統計的実験計画(ベイズ最適化を中心に)
機械学習による統計的実験計画(ベイズ最適化を中心に)機械学習による統計的実験計画(ベイズ最適化を中心に)
機械学習による統計的実験計画(ベイズ最適化を中心に)
 
PRMLrevenge_3.3
PRMLrevenge_3.3PRMLrevenge_3.3
PRMLrevenge_3.3
 
Stanの便利な事後処理関数
Stanの便利な事後処理関数Stanの便利な事後処理関数
Stanの便利な事後処理関数
 
スペクトラルグラフ理論入門
スペクトラルグラフ理論入門スペクトラルグラフ理論入門
スペクトラルグラフ理論入門
 
Stanコードの書き方 中級編
Stanコードの書き方 中級編Stanコードの書き方 中級編
Stanコードの書き方 中級編
 

Destaque

A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...
A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...
A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...
haji mizu
 
集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析
集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析
集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析
haji mizu
 
PAT Process Control IFPAC 2013
PAT Process Control IFPAC 2013PAT Process Control IFPAC 2013
PAT Process Control IFPAC 2013
Paul Brodbeck
 
The role of process analytical technology (pat) in green chemistry and green ...
The role of process analytical technology (pat) in green chemistry and green ...The role of process analytical technology (pat) in green chemistry and green ...
The role of process analytical technology (pat) in green chemistry and green ...
dominev
 

Destaque (16)

集合知メカニズムの研究
集合知メカニズムの研究集合知メカニズムの研究
集合知メカニズムの研究
 
A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...
A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...
A Serious Game for Eliciting Tacit Strategies for Dynamic Table Assignment in...
 
製品・サービスに対する主観的属性収集のためのGWAPシステムの提案
製品・サービスに対する主観的属性収集のためのGWAPシステムの提案製品・サービスに対する主観的属性収集のためのGWAPシステムの提案
製品・サービスに対する主観的属性収集のためのGWAPシステムの提案
 
集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析
集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析
集団意思決定における知識生産のモデル化とそれに基づくプロトコル分析
 
マーケティング技術
マーケティング技術マーケティング技術
マーケティング技術
 
Process analytical technology innovative pharmaceutical development
Process analytical technology  innovative pharmaceutical developmentProcess analytical technology  innovative pharmaceutical development
Process analytical technology innovative pharmaceutical development
 
PAT Process Control IFPAC 2013
PAT Process Control IFPAC 2013PAT Process Control IFPAC 2013
PAT Process Control IFPAC 2013
 
実験計画法(直交表実験)の応用によるLpoの実例 slide share
実験計画法(直交表実験)の応用によるLpoの実例 slide share実験計画法(直交表実験)の応用によるLpoの実例 slide share
実験計画法(直交表実験)の応用によるLpoの実例 slide share
 
Quality-by-Design by chattar
Quality-by-Design by chattarQuality-by-Design by chattar
Quality-by-Design by chattar
 
Process Analytical Technology
Process Analytical TechnologyProcess Analytical Technology
Process Analytical Technology
 
Rで実験計画法 後編
Rで実験計画法 後編Rで実験計画法 後編
Rで実験計画法 後編
 
The role of process analytical technology (pat) in green chemistry and green ...
The role of process analytical technology (pat) in green chemistry and green ...The role of process analytical technology (pat) in green chemistry and green ...
The role of process analytical technology (pat) in green chemistry and green ...
 
DOE Applications in Process Chemistry Presentation
DOE Applications in Process Chemistry PresentationDOE Applications in Process Chemistry Presentation
DOE Applications in Process Chemistry Presentation
 
営業向け ABテストの統計学 データアーティスト
営業向け ABテストの統計学 データアーティスト営業向け ABテストの統計学 データアーティスト
営業向け ABテストの統計学 データアーティスト
 
21.2 - Part 2 Reactions of Carboxylic Acid Derivatives - Wade 7th
21.2 - Part 2 Reactions of Carboxylic Acid Derivatives - Wade 7th21.2 - Part 2 Reactions of Carboxylic Acid Derivatives - Wade 7th
21.2 - Part 2 Reactions of Carboxylic Acid Derivatives - Wade 7th
 
QbD and PAT Presentation
QbD and PAT PresentationQbD and PAT Presentation
QbD and PAT Presentation
 

Semelhante a 実験計画法入門 Part 3

Semelhante a 実験計画法入門 Part 3 (20)

ベイズ統計によるデータ解析
ベイズ統計によるデータ解析ベイズ統計によるデータ解析
ベイズ統計によるデータ解析
 
スパースモデリングによる多次元信号・画像復元
スパースモデリングによる多次元信号・画像復元スパースモデリングによる多次元信号・画像復元
スパースモデリングによる多次元信号・画像復元
 
Reggression①
Reggression①Reggression①
Reggression①
 
Time series analysis with python chapter2-1
Time series analysis with python  chapter2-1Time series analysis with python  chapter2-1
Time series analysis with python chapter2-1
 
Deep learning basics described
Deep learning basics describedDeep learning basics described
Deep learning basics described
 
Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)
Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)
Visual SLAM: Why Bundle Adjust?の解説(第4回3D勉強会@関東)
 
Computing for Isogeny Kernel Problem by Groebner Basis
Computing for Isogeny Kernel Problem by Groebner BasisComputing for Isogeny Kernel Problem by Groebner Basis
Computing for Isogeny Kernel Problem by Groebner Basis
 
強化学習その3
強化学習その3強化学習その3
強化学習その3
 
2020年度秋学期 画像情報処理 第8回 行列の直交変換と基底画像 (2020. 11. 13)
2020年度秋学期 画像情報処理 第8回 行列の直交変換と基底画像 (2020. 11. 13)2020年度秋学期 画像情報処理 第8回 行列の直交変換と基底画像 (2020. 11. 13)
2020年度秋学期 画像情報処理 第8回 行列の直交変換と基底画像 (2020. 11. 13)
 
GARCHSKモデルを用いた条件付き固有モーメントの実証分析
GARCHSKモデルを用いた条件付き固有モーメントの実証分析GARCHSKモデルを用いた条件付き固有モーメントの実証分析
GARCHSKモデルを用いた条件付き固有モーメントの実証分析
 
ITエンジニアのための機械学習理論入門 第5章
ITエンジニアのための機械学習理論入門 第5章ITエンジニアのための機械学習理論入門 第5章
ITエンジニアのための機械学習理論入門 第5章
 
Osaka.stan#2 chap5-1
Osaka.stan#2 chap5-1Osaka.stan#2 chap5-1
Osaka.stan#2 chap5-1
 
Osaka.Stan #3 Chapter 5-2
Osaka.Stan #3 Chapter 5-2Osaka.Stan #3 Chapter 5-2
Osaka.Stan #3 Chapter 5-2
 
第4回数理モデル勉強会(日本植物学会第84回大会関連集会)
第4回数理モデル勉強会(日本植物学会第84回大会関連集会)第4回数理モデル勉強会(日本植物学会第84回大会関連集会)
第4回数理モデル勉強会(日本植物学会第84回大会関連集会)
 
(文献紹介) 画像復元:Plug-and-Play ADMM
(文献紹介) 画像復元:Plug-and-Play ADMM(文献紹介) 画像復元:Plug-and-Play ADMM
(文献紹介) 画像復元:Plug-and-Play ADMM
 
prml_titech_9.0-9.2
prml_titech_9.0-9.2prml_titech_9.0-9.2
prml_titech_9.0-9.2
 
150908 math004 関数その2
150908 math004 関数その2150908 math004 関数その2
150908 math004 関数その2
 
SMO徹底入門 - SVMをちゃんと実装する
SMO徹底入門 - SVMをちゃんと実装するSMO徹底入門 - SVMをちゃんと実装する
SMO徹底入門 - SVMをちゃんと実装する
 
QGISプログラミング入門 2016Osaka編
QGISプログラミング入門 2016Osaka編QGISプログラミング入門 2016Osaka編
QGISプログラミング入門 2016Osaka編
 
N-Switchカバレッジテストの問題点と解決策
N-Switchカバレッジテストの問題点と解決策N-Switchカバレッジテストの問題点と解決策
N-Switchカバレッジテストの問題点と解決策
 

Mais de haji mizu

A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...
A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...
A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...
haji mizu
 
予測と意思決定のためのマーケット:予測市場とその周辺
予測と意思決定のためのマーケット:予測市場とその周辺予測と意思決定のためのマーケット:予測市場とその周辺
予測と意思決定のためのマーケット:予測市場とその周辺
haji mizu
 
A Prototype Crowdsourcing Approach for Document Summarization Service
A Prototype Crowdsourcing Approach for Document Summarization ServiceA Prototype Crowdsourcing Approach for Document Summarization Service
A Prototype Crowdsourcing Approach for Document Summarization Service
haji mizu
 
A Prediction Market Game for Route Selection under Uncertainty
A Prediction Market Game for Route Selection under UncertaintyA Prediction Market Game for Route Selection under Uncertainty
A Prediction Market Game for Route Selection under Uncertainty
haji mizu
 
A comparison between choice experiments and prediction markets for collecting...
A comparison between choice experiments and prediction markets for collecting...A comparison between choice experiments and prediction markets for collecting...
A comparison between choice experiments and prediction markets for collecting...
haji mizu
 

Mais de haji mizu (9)

ゲームで切り込む暗黙知的なスキルやノウハウ
ゲームで切り込む暗黙知的なスキルやノウハウゲームで切り込む暗黙知的なスキルやノウハウ
ゲームで切り込む暗黙知的なスキルやノウハウ
 
ColPMan: A Serious Game for Practicing Collaborative Production Management
ColPMan: A Serious Game for Practicing Collaborative Production ManagementColPMan: A Serious Game for Practicing Collaborative Production Management
ColPMan: A Serious Game for Practicing Collaborative Production Management
 
A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...
A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...
A Prototype Prediction Market Game for Enhancing Knowledge Sharing among Sale...
 
予測と意思決定のためのマーケット:予測市場とその周辺
予測と意思決定のためのマーケット:予測市場とその周辺予測と意思決定のためのマーケット:予測市場とその周辺
予測と意思決定のためのマーケット:予測市場とその周辺
 
集合知とコミュニケーション場のメカニズムデザイン
集合知とコミュニケーション場のメカニズムデザイン集合知とコミュニケーション場のメカニズムデザイン
集合知とコミュニケーション場のメカニズムデザイン
 
A Prototype Crowdsourcing Approach for Document Summarization Service
A Prototype Crowdsourcing Approach for Document Summarization ServiceA Prototype Crowdsourcing Approach for Document Summarization Service
A Prototype Crowdsourcing Approach for Document Summarization Service
 
A Prediction Market Game for Route Selection under Uncertainty
A Prediction Market Game for Route Selection under UncertaintyA Prediction Market Game for Route Selection under Uncertainty
A Prediction Market Game for Route Selection under Uncertainty
 
A comparison between choice experiments and prediction markets for collecting...
A comparison between choice experiments and prediction markets for collecting...A comparison between choice experiments and prediction markets for collecting...
A comparison between choice experiments and prediction markets for collecting...
 
Trading Uncertainty for Collective Wisdom
Trading Uncertainty for Collective WisdomTrading Uncertainty for Collective Wisdom
Trading Uncertainty for Collective Wisdom
 

実験計画法入門 Part 3

  • 1. © Hajime Mizuyama An Introduction to Design of Experiments (DOE) 青山学院大学 経営システム工学科 水山 元 mizuyama@ise.aoyama.ac.jp
  • 2. © Hajime Mizuyama Part 1 古典的な実験計画法の 基本概念と要因計画 Part 2 直交表と 一部実施要因計画 Part 3 応答曲面法と 最適計画 Part 4 直積実験と ロバスト設計
  • 3. © Hajime Mizuyama 一元配置実験の復習 データ 平均 A1 666 643 653 654 A2 664 683 684 677 A3 696 687 705 696 A4 683 655 681 673 675総平均:
  • 4. © Hajime Mizuyama 因子A データ 総平均 総偏差 総偏差 平方 1 666 675 -9 81 1 643 675 -32 1024 1 653 675 -22 484 2 664 675 -11 121 2 683 675 8 64 2 684 675 9 81 3 696 675 21 441 3 687 675 12 144 3 705 675 30 900 4 683 675 8 64 4 655 675 -20 400 4 681 675 6 36 総偏差平方和の計算 3840平方和:
  • 5. © Hajime Mizuyama 因子A データ A別平均 総平均 A間偏差 残差 A間偏差 平方 残差 平方 1 666 654 675 -21 12 441 144 1 643 654 675 -21 -11 441 121 1 653 654 675 -21 -1 441 1 2 664 677 675 2 -13 4 169 2 683 677 675 2 6 4 36 2 684 677 675 2 7 4 49 3 696 696 675 21 0 441 0 3 687 696 675 21 -9 441 81 3 705 696 675 21 9 441 81 4 683 673 675 -2 10 4 100 4 655 673 675 -2 -18 4 324 4 681 673 675 -2 8 4 64 総偏差平方和の分解 2670平方和: 1170
  • 6. © Hajime Mizuyama 総偏差平方和の分解の概念図 A1 A2 A3 A4 640660680700720 y 総平均 A別平均 A間偏差 残差 総偏差
  • 7. © Hajime Mizuyama 一元配置の分散分析 要因 平方和 自由度 平均平方 F値 A SA fA = I-1 VA = SA /(I-1) FA = VA /Ve 残差 Se fe = I(N-1) Ve = Se /I(N-1) ― 計 ST IN-1 ― ― 要因 平方和 自由度 平均平方 F値 P値 A 2670 3 890 6.085 0.018 残差 1170 8 146.25 ― ― 計 3840 11 ― ― ―
  • 8. © Hajime Mizuyama 母平均に関する推定 A1 A2 A3 A4 640660680700720 y 母平均 (𝜇 + 𝑎𝑖)の区間推定 𝑦𝑖 ± 𝑡 𝑓𝑒, 1 − 𝛼 2 𝑉𝑒 𝑁
  • 9. © Hajime Mizuyama • 因子の値を連続的に変化させることができる. • 因子の値を変化させるのに伴って,特性の母平均も連続的に, またある程度なめらかに変化することが多い. • 因子の値を,実験で取り上げた水準だけでなく,それら以外の 値に設定した場合についても,特性の母平均を推定できるよう にしたい. • 因子の値と特性の母平均の間の関係を関数としてモデル化する. 量的因子の場合
  • 10. © Hajime Mizuyama 構造モデル 𝑦𝑖𝑛 = 𝑓(𝑥𝑖) + 𝑒𝑖𝑛 仮定 – 関数 f には,x の1次式または2次式を用いることが多い. – 誤差項は互いに独立かつ等分散である. – 誤差項は期待値ゼロの正規分布に従う. 量的因子の一元配置の構造モデル 連続関数 因子A の値 誤差項 𝒆~𝑁(𝟎, 𝜎𝑒 2 ∙ 𝑰)
  • 11. © Hajime Mizuyama 1次モデルのあてはめ(単回帰分析) 10 20 30 40 640660680700720 y x 𝑦 = 𝑎0 + 𝑎1 𝑥 + 𝑒 1次モデル (単回帰モデル) = 𝑏0 + 𝑏1(𝑥 − 𝑥) + 𝑒 残差 目的変数(従属変数)y の期待値を,説明変数 (独立変数)x の1次式 で推定するモデル
  • 12. © Hajime Mizuyama 残差平方和 残差平方和を最小にする条件 最小2乗法によるパラメータ推定 𝑆 𝑒 = 𝑦𝑖𝑛 − 𝑎0 + 𝑎1 𝑥𝑖 2 𝑁 𝑛=1 𝐼 𝑖=1 = 𝑦𝑖𝑛 − 𝑏0 + 𝑏1(𝑥𝑖−𝑥) 2 𝑁 𝑛=1 𝐼 𝑖=1 𝜕𝑆 𝑒 𝜕𝑏0 = −2 𝑦𝑖𝑛 − 𝑏0 − 𝑏1(𝑥𝑖−𝑥) 𝑁 𝑛=1 𝐼 𝑖=1 = 0 𝜕𝑆 𝑒 𝜕𝑏1 = −2 (𝑥𝑖−𝑥) 𝑦𝑖𝑛 − 𝑏0 − 𝑏1(𝑥𝑖−𝑥) 𝑁 𝑛=1 𝐼 𝑖=1 = 0
  • 13. © Hajime Mizuyama 残差平方和 正規方程式 最小2乗法によるパラメータ推定 𝑆 𝑒 = 𝑦𝑖𝑛 − 𝑎0 + 𝑎1 𝑥𝑖 2 𝑁 𝑛=1 𝐼 𝑖=1 = 𝑦𝑖𝑛 − 𝑏0 + 𝑏1(𝑥𝑖−𝑥) 2 𝑁 𝑛=1 𝐼 𝑖=1 𝐼𝑁𝑏0 + 𝑁𝑏1 (𝑥𝑖−𝑥) 𝐼 𝑖=1 = 𝑦𝑖𝑛 𝑁 𝑛=1 𝐼 𝑖=1 𝑁𝑏0 (𝑥𝑖−𝑥) 𝐼 𝑖=1 + 𝑁𝑏1 𝑥𝑖 − 𝑥 2 𝐼 𝑖=1 = (𝑥𝑖−𝑥)𝑦𝑖𝑛 𝑁 𝑛=1 𝐼 𝑖=1 𝑏0 = 𝑦 𝑏1 = (𝑥𝑖 − 𝑥)(𝑦𝑖𝑛 − 𝑦)𝑁 𝑛=1 𝐼 𝑖=1 𝑁 𝑥𝑖 − 𝑥 2𝐼 𝑖=1 = 𝑆 𝑥𝑦 𝑆 𝑥𝑥
  • 14. © Hajime Mizuyama 残差平方和 回帰係数の推定値 回帰直線 最小2乗法によるパラメータ推定 𝑆 𝑒 = 𝑦𝑖𝑛 − 𝑎0 + 𝑎1 𝑥𝑖 2 𝑁 𝑛=1 𝐼 𝑖=1 = 𝑦𝑖𝑛 − 𝑏0 + 𝑏1(𝑥𝑖−𝑥) 2 𝑁 𝑛=1 𝐼 𝑖=1 𝑏0 = 𝑦 = 675 𝑏1 = (𝑥𝑖 − 𝑥)(𝑦𝑖𝑛 − 𝑦)𝑁 𝑛=1 𝐼 𝑖=1 𝑁 𝑥𝑖 − 𝑥 2𝐼 𝑖=1 = 𝑆 𝑥𝑦 𝑆 𝑥𝑥 = 1140 1500 = 0.76 𝑦 = 𝑏0 + 𝑏1 𝑥 − 𝑥 = 𝑦 + 𝑆 𝑥𝑦 𝑆 𝑥𝑥 𝑥 − 𝑥 = 675 + 0.76(𝑥 − 25)
  • 15. © Hajime Mizuyama 因子A x Δx Δx2 y Δy ΔxΔy 1 10 -15 225 666 -9 135 1 10 -15 225 643 -32 480 1 10 -15 225 653 -22 330 2 20 -5 25 664 -11 55 2 20 -5 25 683 8 -40 2 20 -5 25 684 9 -45 3 30 5 25 696 21 105 3 30 5 25 687 12 60 3 30 5 25 705 30 150 4 40 15 225 683 8 120 4 40 15 225 655 -20 -300 4 40 15 225 681 6 90 回帰係数の計算 1140150025 675
  • 16. © Hajime Mizuyama 回帰モデルの行列表記 ただし, 最小2乗法によるパラメータ推定(行列表記) 𝒚 = 𝑿 ∙ 𝜷 + 𝒆 𝒆~𝑁(𝟎, 𝜎𝑒 2 ∙ 𝑰) 𝒚 = 𝑦11 𝑦12 ⋮ 𝑦𝐼𝑁 𝒆 = 𝑒11 𝑒12 ⋮ 𝑒𝐼𝑁 𝑿 = 1 𝑥1 − 𝑥 1 𝑥1 − 𝑥 ⋮ ⋮ 1 𝑥𝐼 − 𝑥 𝜷 = 𝑏0 𝑏1 1 -15 1 -15 1 -15 1 -5 1 -5 1 -5 1 5 1 5 1 5 1 15 1 15 1 15 666 643 653 664 683 684 696 687 705 683 655 681
  • 17. © Hajime Mizuyama ただし,ただし, 残差平方和 正規方程式 回帰係数の推定値 最小2乗法によるパラメータ推定(行列表記) 𝑆 𝑒 = 𝒚 − 𝑿𝜷 ′ 𝒚 − 𝑿𝜷 = 𝒚′ 𝒚 − 𝟐𝜷′𝑿′𝒚 + 𝜷′𝑿′𝑿𝜷 𝜕𝑆 𝑒 𝜕𝜷 = −𝟐𝑿′ 𝒚 + 2𝑿′ 𝑿𝜷 = 0 𝜷 = 𝑿′ 𝑿 −1 𝑿′ 𝒚 𝑿′ 𝑿 −1 = 1/𝐼𝑁 0 0 1/𝑆 𝑥𝑥 𝑿′ 𝑿 = 𝐼𝑁 0 0 𝑆 𝑥𝑥 = 12 0 0 1500 = 1/12 0 0 1/1500 𝑿′ 𝒚 = 8100 1140 = 8100/12 1140/1500 = 675 0.76
  • 18. © Hajime Mizuyama 因子A 𝑥 𝑦 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 2 𝑦 − 𝑦 2 1 10 666 663.6 -11.4 2.4 129.96 5.76 1 10 643 663.6 -11.4 -20.6 129.96 424.36 1 10 653 663.6 -11.4 -10.6 129.96 112.36 2 20 664 671.2 -3.8 -7.2 14.44 51.84 2 20 683 671.2 -3.8 11.8 14.44 139.24 2 20 684 671.2 -3.8 12.8 14.44 163.84 3 30 696 678.8 3.8 17.2 14.44 295.84 3 30 687 678.8 3.8 8.2 14.44 67.24 3 30 705 678.8 3.8 26.2 14.44 686.44 4 40 683 686.4 11.4 -3.4 129.96 11.56 4 40 655 686.4 11.4 -31.4 129.96 985.96 4 40 681 686.4 11.4 -5.4 129.96 29.16 総偏差平方和の分解 866.4平方和: 2973.6
  • 19. © Hajime Mizuyama 回帰直線 総偏差平方和の分解の概念図 A1 A2 A3 A4 640660680700720 y 総平均 回帰直線 までの偏差 残差 総偏差
  • 20. © Hajime Mizuyama 分散分析表の対比 要因 平方和 自由度 平均平方 F値 P値 A 2670 3 890 6.085 0.018 残差 1170 8 146.25 ― ― 計 3840 11 ― ― ― 要因 平方和 自由度 平均平方 F値 P値 1次 866.4 1 866.4 2.914 0.119 残差 2973.6 10 297.4 ― ― 計 3840 11 ― ― ― 1次モデルの分散分析表 一元配置の分散分析表
  • 21. © Hajime Mizuyama Lack of fit 検定 要因 平方和 自由度 平均平方 F値 P値 A 2670 3 890 6.085 0.018 1次 866.4 1 866.4 5.924 0.041 LOF 1803.6 2 901.8 6.166 0.024 残差 1170 8 146.25 ― ― 計 3840 11 ― ― ― 1次モデルだけでなく,LOFも有意になった. ⇒ 因子Aの効果は,1次モデルだけでは捉えきれていない.
  • 22. © Hajime Mizuyama Lack of fit 検定の概念図 A1 A2 A3 A4 640660680700720 y 総平均 A別平均 A間偏差 残差 総偏差 回帰直線 回帰直線 までの偏差 LOF
  • 23. © Hajime Mizuyama 回帰係数の分布 すなわち, 母平均の信頼区間 回帰係数の分布と母平均の信頼区間 𝐸 𝜷 = 𝐸 𝑿′ 𝑿 −1 𝑿′ 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝐸 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝑿𝜷 = 𝜷 𝑉𝑎𝑟 𝜷 = 𝑉𝑎𝑟 𝑿′ 𝑿 −1 𝑿′ 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝑉𝑎𝑟 𝒚 𝑿 𝑿′ 𝑿 −1 = 𝑿′ 𝑿 −1 𝑿′ 𝜎𝑒 2 𝑰𝑿 𝑿′ 𝑿 −1 = 𝜎𝑒 2 𝑿′ 𝑿 −1 𝜷~𝑁 𝜷, 𝜎𝑒 2 𝑿′ 𝑿 −1 𝑏0~𝑁 𝑏0, 𝜎𝑒 2 /12 𝑏1~𝑁 𝑏1, 𝜎𝑒 2 /1500 𝐶𝑜𝑣 𝑏0, 𝑏1 = 0 𝑏0 + 𝑏1(𝑥 − 𝑥) ± 𝑡 𝑓𝑒, 1 − 𝛼 2 1 𝐼𝑁 + 𝑥 − 𝑥 2 𝑆 𝑥𝑥 𝑉𝑒 = 𝑁 𝜷, 𝜎𝑒 2 1/𝐼𝑁 0 0 1/𝑆 𝑥𝑥
  • 25. © Hajime Mizuyama 回帰モデルの行列表記 ただし, 2次モデルの行列表記 𝒚 = 𝑿 ∙ 𝜷 + 𝒆 𝒆~𝑁(𝟎, 𝜎𝑒 2 ∙ 𝑰) 𝒚 = 𝑦11 𝑦12 ⋮ 𝑦𝐼𝑁 𝒆 = 𝑒11 𝑒12 ⋮ 𝑒𝐼𝑁 𝑿 = 1 𝑥1 − 𝑥 1 𝑥1 − 𝑥 ⋮ ⋮ 1 𝑥𝐼 − 𝑥 𝜷 = 𝑏0 𝑏1 1次モデル 𝑿 = 1 𝑥1 − 𝑥 𝑥1 − 𝑥 2 1 𝑥1 − 𝑥 𝑥1 − 𝑥 2 ⋮ ⋮ ⋮ 1 𝑥𝐼 − 𝑥 𝑥𝐼 − 𝑥 2 𝜷 = 𝑏0 𝑏1 𝑏2 2次モデル
  • 26. © Hajime Mizuyama 回帰係数の推定値 2次モデルのあてはめ 𝜷 = 𝑿′ 𝑿 −1 𝑿′ 𝒚 1 -15 225 1 -15 225 1 -15 225 1 -5 25 1 -5 25 1 -5 25 1 5 25 1 5 25 1 5 25 1 15 225 1 15 225 1 15 225 666 643 653 664 683 684 696 687 705 683 655 681 𝒚 = 12 0 1500 0 1500 0 1500 0 307500 = 𝑿′ 𝒚 = 8100 1140 998700 689.375 0.76 -0.115 𝑿′ 𝑿 = 回帰曲線回帰曲線 𝑦 = 689.375 + 0.76 𝑥 − 25 −0.115 𝑥 − 25 2
  • 27. © Hajime Mizuyama 因子A 𝑥 𝑦 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 𝑦 − 𝑦 2 𝑦 − 𝑦 2 1 10 666 652.1 -22.9 13.9 524.41 193.21 1 10 643 652.1 -22.9 -9.1 524.41 82.81 1 10 653 652.1 -22.9 0.9 524.41 0.81 2 20 664 682.7 7.7 -18.7 59.29 349.69 2 20 683 682.7 7.7 0.3 59.29 0.09 2 20 684 682.7 7.7 1.3 59.29 1.69 3 30 696 690.3 15.3 5.7 234.09 32.49 3 30 687 690.3 15.3 -3.3 234.09 10.89 3 30 705 690.3 15.3 14.7 234.09 216.09 4 40 683 674.9 -0.1 8.1 0.01 65.61 4 40 655 674.9 -0.1 -19.9 0.01 396.01 4 40 681 674.9 -0.1 6.1 0.01 37.21 総偏差平方和の分解 2453.4平方和: 1386.6
  • 28. © Hajime Mizuyama Lack of fit 検定 要因 平方和 自由度 平均平方 F値 P値 A 2670 3 890 6.085 0.018 2次 2453.4 2 1226.7 8.388 0.011 LOF 216.6 1 216.6 1.481 0.258 残差 1170 8 146.25 ― ― 計 3840 11 ― ― ― 2次モデルの場合は,LOFは有意にはならない. ⇒ 因子Aの効果は,2次モデルでほぼ捉えられている.
  • 29. © Hajime Mizuyama 分散分析表の対比 要因 平方和 自由度 平均平方 F値 P値 A 2670 3 890 6.085 0.018 残差 1170 8 146.25 ― ― 計 3840 11 ― ― ― 要因 平方和 自由度 平均平方 F値 P値 2次 2453.4 2 1226.7 7.962 0.010 残差 1386.6 9 154.1 ― ― 計 3840 11 ― ― ― 2次モデルの分散分析表 一元配置の分散分析表
  • 30. © Hajime Mizuyama 回帰係数の分布 すなわち, このとき,𝑦 の分布は, したがって,母平均の信頼区間は, 回帰係数の分布と母平均の信頼区間 𝐸 𝜷 = 𝐸 𝑿′ 𝑿 −1 𝑿′ 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝐸 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝑿𝜷 = 𝜷 𝑉𝑎𝑟 𝜷 = 𝑉𝑎𝑟 𝑿′ 𝑿 −1 𝑿′ 𝒚 = 𝑿′ 𝑿 −1 𝑿′ 𝑉𝑎𝑟 𝒚 𝑿 𝑿′ 𝑿 −1 = 𝑿′ 𝑿 −1 𝑿′ 𝜎𝑒 2 𝑰𝑿 𝑿′ 𝑿 −1 = 𝜎𝑒 2 𝑿′ 𝑿 −1 𝜷~𝑁 𝜷, 𝜎𝑒 2 𝑿′ 𝑿 −1 𝑦 = 𝒙′𝜷~𝑁 𝒙′𝜷, 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝜎𝑒 2 𝒙′𝜷 ± 𝑡 𝑓𝑒, 1 − 𝛼 2 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝑉𝑒
  • 32. © Hajime Mizuyama 応答曲面法 M 個の量的因子を取り上げ,それらの因子の値 x1, x2, ..., xM と,特性 y の間の関係を表す統計モデル(応答曲面): 𝑦 = 𝑓 𝑥1, 𝑥2, ⋯ , 𝑥 𝑀 + 𝑒 を実験から求める技法,また,そのための実験計画の手法. 応答曲面を表す関数 f としては,主に,1次または2次の多項式 モデルが用いられる. 応答曲面法
  • 33. © Hajime Mizuyama 1次モデル 2次モデル 仮定 – 因子の値は基準化しておくことが多い. – 誤差項は互いに独立かつ等分散である. – 誤差項は期待値ゼロの正規分布に従う. 応答曲面法の構造モデル 𝒆~𝑁(𝟎, 𝜎𝑒 2 ∙ 𝑰) 𝑦 = 𝑏0 + 𝑏1 𝑥1 + 𝑏2 𝑥2 + ⋯ + 𝑏 𝑀 𝑥 𝑀 + 𝑒 𝑦 = 𝑏0 + 𝑏1 𝑥1 + 𝑏2 𝑥2 + ⋯ + 𝑏 𝑀 𝑥 𝑀 + 𝑏11 𝑥1 2 + 𝑏12 𝑥1 𝑥2 + ⋯ + 𝑏 𝑀𝑀 𝑥 𝑀 2 + 𝑒
  • 34. © Hajime Mizuyama 計画行列 応答曲面モデルの行列表記 計画行列と応答曲面モデル              MN M M NN x x x x x x x x x      2 1 2 22 21 1 12 11 1 1 1 X                        NNNMN M M NN xx xx xx x x x x x x x x x x x x 21 2212 2111 2 1 2 12 2 11 2 1 2 22 21 1 12 11 1 1 1 X 1次式モデル 2次式モデル 𝒚 = 𝑿 ∙ 𝜷 + 𝒆 𝒆~𝑁(𝟎, 𝜎𝑒 2 ∙ 𝑰)
  • 35. © Hajime Mizuyama 残差平方和 正規方程式 回帰係数の推定値 回帰係数の分布 母平均の分布 母平均の信頼区間 最小2乗法によるパラメータ推定 𝑆 𝑒 = 𝒚 − 𝑿𝜷 ′ 𝒚 − 𝑿𝜷 = 𝒚′ 𝒚 − 𝟐𝜷′𝑿′𝒚 + 𝜷′𝑿′𝑿𝜷 𝜕𝑆 𝑒 𝜕𝜷 = −𝟐𝑿′ 𝒚 + 2𝑿′ 𝑿𝜷 = 0 𝜷 = 𝑿′ 𝑿 −1 𝑿′ 𝒚 𝜷~𝑁 𝜷, 𝜎𝑒 2 𝑿′ 𝑿 −1 𝑦 = 𝒙′𝜷~𝑁 𝒙′𝜷, 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝜎𝑒 2 𝒙′𝜷 ± 𝑡 𝑓𝑒, 1 − 𝛼 2 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝑉𝑒
  • 36. © Hajime Mizuyama • 中心複合計画 • Box and Behnken 計画 • 最適計画 – D-最適計画 – G-最適計画 応答曲面計画
  • 38. © Hajime Mizuyama x1 x2 x3 1 -1 -1 -1 2 1 -1 -1 3 -1 1 -1 4 1 1 -1 5 -1 -1 1 6 1 -1 1 7 -1 1 1 8 1 1 1 9 −𝛼 0 0 10 𝛼 0 0 11 0 −𝛼 0 12 0 𝛼 0 13 0 0 −𝛼 14 0 0 𝛼 15 0 0 0 16 0 0 0 17 0 0 0 18 0 0 0 中心複合計画の例 2水準要因計画 各因子の1次の 主効果と,1次 ×1次の2因子 交互作用を推定 中心点 純粋な誤差分散 の推定 最低でも3回, できれば5回程度 の繰返し 軸上点 各因子の2次の 主効果を推定 𝛼 の値は,設定 の容易さ,中心 点からの距離, 回転可能性など を考慮して決定 𝛼 = 𝑁𝐹𝐷 1/4
  • 39. © Hajime Mizuyama 1 x1 x2 x3 x1 2 x1x2 x1x3 x2 2 x2x3 x3 2 1 -1 -1 -1 1 1 1 1 1 1 1 1 -1 -1 1 -1 -1 1 1 1 1 -1 1 -1 1 -1 1 1 -1 1 1 1 1 -1 1 1 -1 1 -1 1 1 -1 -1 1 1 1 -1 1 -1 1 1 1 -1 1 1 -1 1 1 -1 1 1 -1 1 1 1 -1 -1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 −𝛼 0 0 𝛼2 0 0 0 0 0 1 𝛼 0 0 𝛼2 0 0 0 0 0 1 0 −𝛼 0 0 0 0 𝛼2 0 0 1 0 𝛼 0 0 0 0 𝛼2 0 0 1 0 0 −𝛼 0 0 0 0 0 𝛼2 1 0 0 𝛼 0 0 0 0 0 𝛼2 1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 中心複合計画の計画行列の例 𝑿 =
  • 40. © Hajime Mizuyama • 中心複合計画 • Box and Behnken 計画 • 最適計画 – D-最適計画 – G-最適計画 応答曲面計画
  • 41. © Hajime Mizuyama Box and Behnken 計画の概念図 2因子毎の要因計画(他の因子の値は0とする) 中心点
  • 42. © Hajime Mizuyama x1 x2 x3 1 -1 -1 0 2 -1 1 0 3 1 -1 0 4 1 1 0 5 0 -1 -1 6 0 -1 1 7 0 1 -1 10 0 1 1 11 -1 0 -1 12 1 0 -1 13 -1 0 1 14 1 0 1 15 0 0 0 16 0 0 0 17 0 0 0 18 0 0 0 Box and Behnken 計画の例
  • 43. © Hajime Mizuyama 1 x1 x2 x3 x1 2 x1x2 x1x3 x2 2 x2x3 x3 2 1 -1 -1 0 1 1 0 1 0 0 1 -1 1 0 1 -1 0 1 0 0 1 1 -1 0 1 -1 0 1 0 0 1 1 1 0 1 1 0 1 0 0 1 0 -1 -1 0 0 0 1 1 1 1 0 -1 1 0 0 0 1 -1 1 1 0 1 -1 0 0 0 1 -1 1 1 0 1 1 0 0 0 1 1 1 1 -1 0 -1 1 0 1 0 0 1 1 1 0 -1 1 0 -1 0 0 1 1 -1 0 1 1 0 -1 0 0 1 1 1 0 1 1 0 1 0 0 1 1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 Box and Behnken 計画の計画行列の例 𝑿 =
  • 44. © Hajime Mizuyama • 中心複合計画 • Box and Behnken 計画 • 最適計画 – D-最適計画 – G-最適計画 応答曲面計画
  • 45. © Hajime Mizuyama 最適計画 実験計画(計画行列)の作成を最適化問題として取り扱う. 制約条件 実験点数,実験可能領域 目的関数 D-最適基準 G-最適基準 最適計画の考え方 det(𝑿′ 𝑿) → 最大化 max 𝒙 {𝒙′ 𝑿′ 𝑿 −1 𝒙} → 最小化 𝜷~𝑁 𝜷, 𝜎𝑒 2 𝑿′ 𝑿 −1 𝑦 = 𝒙′𝜷~𝑁 𝒙′𝜷, 𝒙′ 𝑿′ 𝑿 −1 𝒙 𝜎𝑒 2