31. Occamの剃刀
◦ より単純な因果構造が良い
(a 独立 b)、(d 独立 {a, b}|c)のみがデータから得られた場合、
次の因果構造が極小(最も優位)なものとなる
◦ 例
a:風邪を引く, b:熱がある, c:くしゃみをする, d:鼻をかむ
以下の2つの因果構造は同等
極小性の仮定を利用しただけ(極小性原理)で、cがdの原因となっている
ことが言える
a b ※ b
c a c
d d
33. 例1(2つのコインの例)
a b a b a b
c c c
Θ=(0.5, 0.8)のときのデータから Θ=(0.5, 0.5)のときのデータから
考えられる条件付独立関係 考えられる条件付独立関係
→この因果構造が定常分布を生成している
例2(風邪の例)
a b a b ・左の因果構造の方が優位
→極小性原則より棄却される
・(a 独立 b)が存在する
c c →aとbの関連性がうまく相殺
されるパラメータでなくてはならない
ので、定常性原則より棄却される
d d
34. ICアルゴリズム(Inductive Causation、Verma and Pearl, 1990)
◦ 潜在構造を仮定しない場合の、唯一な極小因果構造(D0)と同値なク
ラスを発見する方法
ステップ1:(a 独立 b|Sab)となるSabをみつける
みつからない場合はaとbを無向辺で結ぶ
ステップ2:隣接しないaとbが共通の隣接点cをもつとき
c in Sabの場合:矢印を加えない
c not in Sabの場合:a→c←bとする
ステップ3:無向辺にできるだけ向きを付ける(Meek, 1995)
規則1:a→b―cであればa→b→cとする
規則2:a→c→b、a―bであればa→bとする
規則3:a―c→b、a―d→b、a―bであればa→bとする
規則4:a―c→d、c→d→b、a―bであればa→bとする
a b c c c
a b a b a d
c d b
35. IC*アルゴリズム
◦ 潜在構造も含めた極小因果モデルを発見する方法
修正ステップ3:できるだけ多くの矢線に*をつける
規則1:a→c―bであればa→c * →bとする
規則2:a * → … * → b、a―bであればa→bとする
マーク付き矢線(→*):有向道を示す
マークなし矢線(→):有向道もしくは潜在共通原因(a←L→b)がある
双方向矢線:潜在共通原因(a←L→b)
無向辺(ー):a→b、a←b、潜在共通原因(a←L→b)のどれか
無向辺自体に向きを加えるのではなく、無向辺の端点それぞれに矢印を加
えていく
双方向となることもある
◦ スプリンクラーの例
データから次の条件付独立を満たす集合を得る
Sad={b, c},Sae={d}, Sbc={a}, Sbe={d}, Sce={d}
a a a
b c b c b c
d d d
*
e e e