StanとRでベイズ統計モデリング読書会Ch.9
•Download as PPTX, PDF•
10 likes•6,131 views
Osaka.stan#5 2017.07.01 at KG Univ.
Recommended
More Related Content
What's hot
What's hot (20)
Similar to StanとRでベイズ統計モデリング読書会Ch.9
Similar to StanとRでベイズ統計モデリング読書会Ch.9 (6)
More from 考司 小杉
More from 考司 小杉 (20)
StanとRでベイズ統計モデリング読書会Ch.9
- 2. /71 自己紹介 • 小杉考司（こすぎこうじ）@kosugitti • 山口大学教育学部小学校コース心理学選修所属 • 専門；社会心理学，心理統計 2
- 3. /71 お品書き • 9.1 Stanで利用できる変数の型とインデックス • 9.5 エラーとその対処法 • 9.2 ベクトル型の活用による高速化 • 9.3 ベクトル型・マトリックス型を使ったモデル • 9.4 型でパラメタに制約を入れる方法 3
- 6. /71 9.1 型とインデックス • 型；データやパラメータを扱う形式のこと • スカラー，ベクトル，マトリックス・・・ • 多次元だと「配列」；X[n,m,l,k,...] 6 サイズ感が大事 （後述）
- 7. /71 9.1 型とインデックス • 一次元の配列とベクトルはどう違うのか？ • 二次元の配列とベクトルは何が違うのか？ 7 どちらも与える データは同じ…
- 9. /71 9.1 型とインデックス • ベクトル型/マトリックス型の利点 • 行列関数などが用意されているので高速化できる • 配列型の利点 • vectorが1次元，matrixが2次元に限定されているのに対し， 配列は自由 • int型ベクトルというのはない 9 intを書くところがそもそもない
- 10. /71 変数の宣言例と解説 10 型の例 宣言例 説明 整数 int N 整数 実数 real Y 実数 整数の配列 int Y[N] N個ある整数 実数の配列 real Y[N,M,L] N×M×L個の実数からなる 配列 表9.1 上の部分
- 11. /71 変数の宣言例と解説 11 型の例 宣言例 説明 ベクトル vector[K] Y 1個の長さKベクトル ベクトルの配列 vector[K] Y[N] N個の長さKベクトル ベクトルの配列 vector[K] Y[N,M] N×M個の長さKベクトル 行列 matrix[J,K] X 1個のJ×K行列 行列の配列 matrix[J,K] X[N] N個のJ×K行列 表9.２ 下の部分 1 2 3 4 5
- 15. /71 変数へのアクセス 15 表9.4 StanにおけるIndexの利用例 宣言例 宣言例 得られる型 real Y[3] Y[2] real Y[2:3] real[2] real Y[N,M,L] Y[n] real[M,L] vector[K] V V[k] real V[1:(K-1)] vector[K-1] vector[K] V[N] V[n] vector[K] V[n,k] real K K-1 注意
- 16. /71 変数へのアクセス 16 表9.4 StanにおけるIndexの利用例 宣言例 宣言例 得られる型 matrix[J,K] X X[j] row_vector[K]X[j,] X[j,:] X[j,k] real X[,k] vector[J] X[1:2,1:2] matrix[2,2] matrix[J,K] X[N] X[n] matrix[J,K] J×K J J×K j,k ,k J×K 2×2
- 17. /71 J×K アクセスの特徴(p.150) • vector[K] Vとint Index[J] → V[Index] から vector[J] • Stanのmatrix型は列優先 • 並びに注意（K→L） • row_vectorへのアクセスはrow_vector型で 17 V … 個 V 注 J×K k ↓ J→ J→ J→ 行列演算をしなければ 扱うデータの形は同じ
- 18. /71 9.1.3. RからStanに渡す時 • 基本的にlist型で渡した方がエラーには出くわしにくい • あるいはRの配列array型 • data.frame型を渡してエラーになることも • サイズは合っているんだけど，型が合ってない（一次元配列 にdata.frameを渡しちゃった場合など） 18
- 19. 9.5 エラーとその対処法
- 20. /71 9.5.1 int型のパラメータ • Stanの最大の弱点，それはint型のパラメータを宣言でき ないことである。 • Stanのアルゴリズムに依る • 連続分布の勾配を使って効率の良いサンプリングを するアルゴリズムを採用しているから • JAGSはできる 20
- 23. /71 9.5.2 NAを渡せない • Stanの二番目の弱点，それは欠損値を渡せないこと • コードを工夫してやれば問題ない • 縦長コードにしてna.omitし，完全なデータだけ渡す ようにする • NA部分にindexをつけてパラメータとして推定する • JAGSは自動的にパラメータと思って推定してくれる・・・ 23
- 40. SAS小僧 vs Stan坊や
- 41. /71 余談；MCMCのイメージ • 適当な広さでないと，坊やたちはど こまでも行ってしまって帰ってこな い • 適切に条件を定めてやらないと坊や たちはなんでも拾って来てしまう • 複雑な地形になると，坊やたちの探 す時間がかかってしまう 41 そのための宣言（上限・下限など） そのための事前分布
- 44. /71 9.1 型とインデックス • ベクトル型/マトリックス型の利点 • 行列関数などが用意されているので高速化できる • 配列型の利点 • vectorが1次元，matrixが2次元に限定されているのに対し， 配列は自由 • int型ベクトルというのはない 44 intを書くところがそもそもない 再掲
- 45. /71 ベクトル化の基本 • それはもう高速化はありがたいですよ。 • まずはベクトル化を考えず，読みやすくて動くコードを 書こう。それができてから，ベクトル化できるところは やっていく，という順番。 • ベクトル化バージョンを作る際は「動く」バージョン も残しておこう！ 45 model9-1.stan model9-2.stan
- 49. /71 normal_lpdfの引数の 型による挙動 49 yの型 muの型 sigmaの型 等価の表現 実数 実数 実数 y~normal(mu,sigma) ベクトル 実数 実数 for(n in 1:N) y[n]~normal(mu,sigma); 実数 ベクトル 実数 for(n in 1:N) y~normal(mu[n],sigma); ベクトル ベクトル 実数 for(n in 1:N) y[n]~normal(mu[n],sigma); ベクトル ベクトル ベクトル for(n in 1:N) y[n]~normal(mu[n],sigma[n]); 表9.6
- 50. /71 ベクトル化していこう • ベクトル化はmodelブロックから考えていく 1. for文の中でサンプリングしているところを見つける 2. マニュアルでベクトル化しているかチェック 3. dataやparametersブロックをベクトル化 50 9.2.2 ベクトル化の応用例-その1
- 54. matrix型の宣言 Y mu to_vector関数 Y mu↓ ↓ ↓ ↓ ↓ ↓ ↓ ↓ ベクトルとしてアクセスする model8-7b.stan exp/logなどベクトル化対応関数を使う技！
- 57. /71 応用的な変数の型 • cov_matrix, corr_matrix型 • 分散共分散型，相関行列型 • 正定値行列（全ての固有値が正）を仮定している • cholesky_factor_cov, cholesky_factor_corr型 • 共分散/相関行列をコレスキー分解したもの。 57 Cov/R 正方・対称行列 正方なのでサイズ 指定は一つでOK Cov/R ＝ L L’
- 59. /71 行列を使って考えましょう • 重回帰分析を行列表現する 59 Y = b0 X1 X2 X3 b1 b2 b3+ + + = b0 b1 b2 b3 X1 X2 X3 1 1 1 1 1 行列計算の基礎 = 同じであること 出来上がりは外側
- 62. /71 9.4 型でパラメータに制約を • MCMCサンプリングはパラメータが同時に成立する可能 性のある組み合わせをたくさんとってくること • 確率空間をstan坊やが走り回って値を持ってくるイメージ 62 同時確率空間 鎖1 鎖2 鎖3
- 64. /71 9.4 型でパラメータに制約を • simplex型は「0から1の範囲」で「合計が1」なので確率 とみなせる • categorical分布のパラメータなどで使う • unit_vector型は各要素の二乗の合計が1の単位ベクトル • ordered型は要素が小さい順に並ぶベクトル • positive_ordered型は各要素が正のordered型 64
- 65. /71 9.4 型で制約出来ない場合 • 「0から1の範囲」で大きい順に並べたい • ordered型で「順に並べる」を考える • transformed parametersでinv_logitし「0から1の範囲」を達 成しつつ，順を逆転する 65
- 66. /71 9.4 型で制約出来ない場合 • 切断されたような分布の場合 • upperやlowerで切るだけ • 分散の事前分布には半コーシーや半t分布を使いますよね 66
- 67. /71 9.4 型で制約出来ない場合 • 等式を満たすパラメータ • 長さNのベクトルで合計が特定の値になってほしい • ex)分散分析をモデリングする場合，効果の大きさは水準を全て足 し合わせると0になる（水準の効果は平均からの偏差として表す） 67 N-1まではコピー N番目で帳尻を合わせる
- 69. /71 9.4 型で制約出来ない場合 • 不等式を満たすパラメータ • 長さNのベクトルで合計が特定の値以上になってほしい 69 N-1まではコピー N番目で帳尻を合わせる 下限を設定
- 70. /71 9.4 型で制約出来ない場合 • 不等式を満たすパラメータ2 • にしてほしい 70 • transformed parametersで宣言・定義した変数に制約をか けるとサンプリング効率が著しく低下する • 適切な変換を見つける • ex)Box-Mueller変換
- 71. /71 9.4 型で制約出来ない場合 • 不等式を満たすパラメータ2 • にしてほしい 71 • 条件に合わなければrejectしたり，負の無限大を加えるな どして必要なところだけ取り出すこともできる
- 72. /71 • 9.1 Stanで利用できる変数の型とインデックス • 9.5 エラーとその対処法 • 9.2 ベクトル型の活用による高速化 • 9.3 ベクトル型・マトリックス型を使ったモデル • 9.4 型でパラメタに制約を入れる方法 72