O slideshow foi denunciado.
Utilizamos seu perfil e dados de atividades no LinkedIn para personalizar e exibir anúncios mais relevantes. Altere suas preferências de anúncios quando desejar.
InfoGAN: Interpretable Representation Learning by
Information Maximizing Generative Adversarial Nets
Xi Chen1,2, Yan Duan1...
• 氏名
– 堀井隆斗 (大阪大学工学研究科 浅田研究室)
• 研究内容:
– 人の情動発達過程のモデル化
– HRIにおける情動コミュニケーション
• 論文選択理由
– 生成モデルの最新動向を知りたい
– 教師なし最高
– 研究内容にかなり関...
• 論文概要
• GANとは
• InfoGANの目的とアイディア
• 実験結果
• まとめ
Agenda
2/19
• 論文概要
• GANとは
• InfoGANの目的とアイディア
• 実験結果
• まとめ
Agenda
2/19
• 目的
– データ生成のモデルとして優秀なGANに,「わかりやすい」情報を
表現する特徴量を「簡単に」獲得させる
• キーアイディア
– GANの生成ベクトルに特徴を表現する隠れ符号を埋め込む
– 隠れ符号と生成分布の相互情報量最大化を学習の...
• 論文概要
• GANとは
• InfoGANの目的とアイディア
• 実験結果
• まとめ
Agenda
• GAN: Generative Adversarial Networks
– Generator(G)とDiscriminator(D)を戦わせて生成精度の向
上を図るモデル
GANとは?
[Goodfellow+, 2014]
Gener...
• GAN: Generative Adversarial Networks
– Generator(G)とDiscriminator(D)を戦わせて生成精度の向
上を図る生成モデル
• G: 生成用ベクトル𝒛からデータを生成
• D: 対象デ...
• Deep Convolutional GAN (DCGAN)
– GとDにCNNを利用
• 活性化関数が特殊だったり
するが同じアイディア
– Zのベクトル演算による新規画像生成
GANによるデータ生成 I
[Randford+, 2015...
• Chainer-DCGAN
GANによるデータ生成 II
http://mattya.github.io/chainer-DCGAN/
長髪ベクトル
増
長髪ベクトル
減
6/19
• GAN, DCGAN (Chainer-DCGAN)
– 頑張って探す!
• 欲しい特徴や対向する特徴を含むデータ
を生成するzを探す
特徴量は如何にして獲得されるか
𝒛
<-ラベルがないとどうしようもない…
[Kingma+, 2014]...
• GANでの特徴量獲得
– 生成ベクトル𝒛の空間中に
生成画像の特徴が表現される
• 𝒛の各次元の特徴は解釈しづらい
• 解釈可能な表現は生成画像を確認
して探すしかない
• 教師あり学習では一部の特徴しか
学習できない
問題点まとめ
?
?...
• 論文概要
• GANとは
• InfoGANの目的とアイディア
• 実験結果
• まとめ
Agenda
• Information Maximizing GAN (InfoGAN)
– 目的:
• 生成時に利用価値の高い特徴量を教師なし学習で獲得
• 従来のGAN系モデルに対してより簡便に特徴量を獲得
– アイディア:
• 生成用ベクトル𝒛′を ...
1. 生成用ベクトルの分割
– 生成用ベクトル𝒛′を ソース𝒛と隠れ符号𝒄に分割
– 𝒄にデータ特徴を現す特徴量が獲得されることを狙う
• 隠れ符号分布: 𝑃 𝒄 = 𝑖
𝐿
𝑃(𝑐𝑖)
• 生成分布: 𝐺 𝒛, 𝒄 = 𝑃𝐺(𝒙|𝒄)
Inf...
• 隠れ符号と生成分布の相互情報量最大化
– 𝐼(𝒄; 𝐺 𝒛, 𝒄 )を最大化し𝒄と𝐺(𝒛, 𝒄)に従属関係を埋め込む
• 相互情報量: 2つの確率変数𝑋, 𝑌の相互依存の尺度を表す量
– 𝐼 𝑋; 𝑌 = 0のとき,2つの確率変数は独立
–...
• 相互情報量𝐼(𝒄; 𝐺 𝒛, 𝒄 )を最大化
– 計算に𝑃(𝒄|𝒙)が必要になるので直接最大化できない
– 補助分布𝑄(𝒄|𝒙)を用いて下限を求める
• Variational Information Maximizationを利用
– 補...
• 𝑐′~𝑃(𝑐|𝑥)での期待値計算を回避
– 変数変換により𝑐′~𝑃(𝑐|𝑥)からのサンプリングを回避
変分相互情報量最大化 II
– 相互情報量の下限𝐿𝐼(𝐺, 𝑄)
– 最終的なInfoGANの目的関数
GANの目的関数 相互情報量下界
...
• 補助分布𝑄(𝑐|𝑥)の選定
– 𝑄は識別器𝐷のネットワークを流用
• GANからの学習コストの増加は非常に小さい
– 𝐷の最上位層に条件付き分布を表現する全結合層を追加
• カテゴリカルな隠れ符号: softmax
• 連続値の隠れ符号: ...
• 論文概要
• GANとは
• InfoGANの目的とアイディア
• 実験結果
• まとめ
Agenda
• 相互情報量最大化
– 実験条件
• 隠れ符号: 𝑐~Cat(𝐾 = 10, 𝑝 = 0.1)
• 相互情報量の最大値: 𝐻 𝑐 ≈ 2.30
– 実験結果
• InfoGANは学習に伴い相互情報量がほぼ最大値に近づく
• GAN(モデルはI...
• 獲得された表現の確認と画像生成
– 隠れ符号: 𝑐1~Cat 𝐾 = 10, 𝑝 = 0.1 , 𝑐2, 𝑐3~Unif(−1,1)
実験結果 II: MNIST
教師なし学習にもかかわらず𝑐1で5%の誤識別率
16/19
• 獲得された表現の確認と画像生成
– 隠れ符号: 𝑐1, ⋯ , 𝑐5~Unif(−1,1)
実験結果 III: CelebA
17/19
• 獲得された表現の確認と画像生成
– 隠れ符号: 𝑐1, ⋯ , 𝑐10~Cat 𝐾 = 10, 𝑝 = 0.1
実験結果 IIII: CelebA
18/19
• 論文概要
• GANとは
• InfoGANの目的とアイディア
• 実験結果
• まとめ
Agenda
• GANによる解釈可能な特徴量表現を獲得するInfoGAN
– 生成ベクトル𝒛のソースと隠れ符号𝒄の明示的な分割
– 隠れ符号と生成分布の相互情報量𝐼を最大化し従属性を保証
– 𝐼の下限を計算する補助分布𝑄は識別器𝐷を流用してコストを抑える
...
[Goodfellow+, 2014] Ian J. Goodfellow, Jean Pouget-Abadiey, Mehdi Mirza, Bing Xu, David Warde-Farley,
Sherjil Ozairz, Aaro...
Próximos SlideShares
Carregando em…5
×

第1回NIPS読み会・関西発表資料

3.537 visualizações

Publicada em

第1回NIPS読み会・関西での発表資料
InfoGANについて発表しました

[2016/11/13] 参考文献のスライドを追加しました

Publicada em: Engenharia
  • DOWNLOAD THAT BOOKS/FILE INTO AVAILABLE FORMAT - (Unlimited) ......................................................................................................................... ......................................................................................................................... Download FULL PDF EBOOK here { http://bit.ly/2m6jJ5M } ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... accessibility Books Library allowing access to top content, including thousands of title from favorite author, plus the ability to read or download a huge selection of books for your pc or smartphone within minutes Christian, Classics, Comics, Contemporary, Cookbooks, Art, Biography, Business, Chick Lit, Children's, Manga, Memoir, Music, Science, Science Fiction, Self Help, History, Horror, Humor And Comedy, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance,
       Responder 
    Tem certeza que deseja  Sim  Não
    Insira sua mensagem aqui
  • DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT (Unlimited) ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download Full EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ACCESS WEBSITE for All Ebooks ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download doc Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ......................................................................................................................... ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Cookbooks, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult,
       Responder 
    Tem certeza que deseja  Sim  Não
    Insira sua mensagem aqui
  • DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT (Unlimited) ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... Download Full EPUB Ebook here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... ACCESS WEBSITE for All Ebooks ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... Download EPUB Ebook here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... Download doc Ebook here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... ......................................................................................................................... ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Cookbooks, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult,
       Responder 
    Tem certeza que deseja  Sim  Não
    Insira sua mensagem aqui
  • DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT (Unlimited) ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download Full EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ACCESS WEBSITE for All Ebooks ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download EPUB Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... Download doc Ebook here { https://tinyurl.com/y6a5rkg5 } ......................................................................................................................... ......................................................................................................................... ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Cookbooks, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult,
       Responder 
    Tem certeza que deseja  Sim  Não
    Insira sua mensagem aqui
  • DOWNLOAD THIS BOOKS INTO AVAILABLE FORMAT (Unlimited) ......................................................................................................................... ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... Download Full EPUB Ebook here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... ACCESS WEBSITE for All Ebooks ......................................................................................................................... Download Full PDF EBOOK here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... Download EPUB Ebook here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... Download doc Ebook here { https://tinyurl.com/yyxo9sk7 } ......................................................................................................................... ......................................................................................................................... ......................................................................................................................... .............. Browse by Genre Available eBooks ......................................................................................................................... Art, Biography, Business, Chick Lit, Children's, Christian, Classics, Comics, Contemporary, Cookbooks, Crime, Ebooks, Fantasy, Fiction, Graphic Novels, Historical Fiction, History, Horror, Humor And Comedy, Manga, Memoir, Music, Mystery, Non Fiction, Paranormal, Philosophy, Poetry, Psychology, Religion, Romance, Science, Science Fiction, Self Help, Suspense, Spirituality, Sports, Thriller, Travel, Young Adult,
       Responder 
    Tem certeza que deseja  Sim  Não
    Insira sua mensagem aqui

第1回NIPS読み会・関西発表資料

  1. 1. InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets Xi Chen1,2, Yan Duan1,2, Rein Houthooft1,2, John Schulman1,2, Ilya Sutskever2, Pieter Abbeel1,2 @NIPS読み会・関西 2016/11/12 担当者: 大阪大学 堀井隆斗 1 UC Berkeley, Department of Electrical Engineering and Computer Science 2 OpenAI
  2. 2. • 氏名 – 堀井隆斗 (大阪大学工学研究科 浅田研究室) • 研究内容: – 人の情動発達過程のモデル化 – HRIにおける情動コミュニケーション • 論文選択理由 – 生成モデルの最新動向を知りたい – 教師なし最高 – 研究内容にかなり関係する 自己紹介 Multimodal Deep Boltzmann Machine 情動の表現獲得 情動推定 情動表出 1/19 NHK総合 SFリアル#2アトムと暮らす日
  3. 3. • 論文概要 • GANとは • InfoGANの目的とアイディア • 実験結果 • まとめ Agenda 2/19
  4. 4. • 論文概要 • GANとは • InfoGANの目的とアイディア • 実験結果 • まとめ Agenda 2/19
  5. 5. • 目的 – データ生成のモデルとして優秀なGANに,「わかりやすい」情報を 表現する特徴量を「簡単に」獲得させる • キーアイディア – GANの生成ベクトルに特徴を表現する隠れ符号を埋め込む – 隠れ符号と生成分布の相互情報量最大化を学習の目的関数に追加 • 結果 – 複数の画像データセットにおいて解釈可能な特徴量を獲得した 論文概要 3/19
  6. 6. • 論文概要 • GANとは • InfoGANの目的とアイディア • 実験結果 • まとめ Agenda
  7. 7. • GAN: Generative Adversarial Networks – Generator(G)とDiscriminator(D)を戦わせて生成精度の向 上を図るモデル GANとは? [Goodfellow+, 2014] Generator(G) Discriminator(D)Data True data or Generated data
  8. 8. • GAN: Generative Adversarial Networks – Generator(G)とDiscriminator(D)を戦わせて生成精度の向 上を図る生成モデル • G: 生成用ベクトル𝒛からデータを生成 • D: 対象データが本物(データセット)か 偽物(Gによって生成)かを識別 GANとは 目的関数 [Goodfellow+, 2014] データセットのデータ を「本物」と識別 生成されたデータを「偽物」と識別 4/19
  9. 9. • Deep Convolutional GAN (DCGAN) – GとDにCNNを利用 • 活性化関数が特殊だったり するが同じアイディア – Zのベクトル演算による新規画像生成 GANによるデータ生成 I [Randford+, 2015] zの空間中に様々な特徴量が獲得されている! 5/19
  10. 10. • Chainer-DCGAN GANによるデータ生成 II http://mattya.github.io/chainer-DCGAN/ 長髪ベクトル 増 長髪ベクトル 減 6/19
  11. 11. • GAN, DCGAN (Chainer-DCGAN) – 頑張って探す! • 欲しい特徴や対向する特徴を含むデータ を生成するzを探す 特徴量は如何にして獲得されるか 𝒛 <-ラベルがないとどうしようもない… [Kingma+, 2014] • 半教師あり学習(Semi-supervised Learning with Deep Generative Models) – 少数のラベル付データを利用 • ラベルデータをzの一部として学習 顔の向きを変える 特徴ベクトル 7/19
  12. 12. • GANでの特徴量獲得 – 生成ベクトル𝒛の空間中に 生成画像の特徴が表現される • 𝒛の各次元の特徴は解釈しづらい • 解釈可能な表現は生成画像を確認 して探すしかない • 教師あり学習では一部の特徴しか 学習できない 問題点まとめ ? ? ス タ イ ル カテゴリ 教師なし学習で解釈可能な特 徴量を「簡単」に獲得したい!! 8/19
  13. 13. • 論文概要 • GANとは • InfoGANの目的とアイディア • 実験結果 • まとめ Agenda
  14. 14. • Information Maximizing GAN (InfoGAN) – 目的: • 生成時に利用価値の高い特徴量を教師なし学習で獲得 • 従来のGAN系モデルに対してより簡便に特徴量を獲得 – アイディア: • 生成用ベクトル𝒛′を ソース𝒛と隠れ符号(latent code)𝒄に分割 • 隠れ符号𝒄と生成器分布𝐺 𝒛, 𝒄 の相互情報量𝐼(𝒄; 𝐺 𝒛, 𝒄 )を最大化 提案モデル 9/19 ちなみにInfoGANはOpenAIがソースを公開しています https://github.com/openai/InfoGAN
  15. 15. 1. 生成用ベクトルの分割 – 生成用ベクトル𝒛′を ソース𝒛と隠れ符号𝒄に分割 – 𝒄にデータ特徴を現す特徴量が獲得されることを狙う • 隠れ符号分布: 𝑃 𝒄 = 𝑖 𝐿 𝑃(𝑐𝑖) • 生成分布: 𝐺 𝒛, 𝒄 = 𝑃𝐺(𝒙|𝒄) InfoGANのアイディア I 𝒛 𝒙 𝒙 𝒛 𝒄 𝒙 ~ 𝐺 𝒛 𝒙 ~ 𝐺 𝒛, 𝒄 𝒛 ~ 𝑃𝑛𝑜𝑖𝑠𝑒(𝒛) 𝒛 ~ 𝑃𝑛𝑜𝑖𝑠𝑒(𝒛) 𝒄 ~ 𝑃(𝒄) 𝐺 𝒛 = 𝑃𝐺(𝒙) 𝐺 𝒛, 𝒄 = 𝑃𝐺(𝒙|𝒄) GAN InfoGAN GANの学習では生成分布𝑃𝐺が 𝒄に条件付けされる保証はなく, 𝑃𝐺(𝒙|𝒄) → 𝑃𝐺(𝒙) となる 如何に隠れ符号の条件付けを保証するか 10/19
  16. 16. • 隠れ符号と生成分布の相互情報量最大化 – 𝐼(𝒄; 𝐺 𝒛, 𝒄 )を最大化し𝒄と𝐺(𝒛, 𝒄)に従属関係を埋め込む • 相互情報量: 2つの確率変数𝑋, 𝑌の相互依存の尺度を表す量 – 𝐼 𝑋; 𝑌 = 0のとき,2つの確率変数は独立 – 相互情報量最大化を明に目的関数に導入 • InfoGANの目的関数: InfoGANのアイディア II GANの目的関数 相互情報量項 11/19
  17. 17. • 相互情報量𝐼(𝒄; 𝐺 𝒛, 𝒄 )を最大化 – 計算に𝑃(𝒄|𝒙)が必要になるので直接最大化できない – 補助分布𝑄(𝒄|𝒙)を用いて下限を求める • Variational Information Maximizationを利用 – 補助分布導入時にKL情報量で下限を設定 変分相互情報量最大化 I [Barber and Agakov, 2003] 12/19
  18. 18. • 𝑐′~𝑃(𝑐|𝑥)での期待値計算を回避 – 変数変換により𝑐′~𝑃(𝑐|𝑥)からのサンプリングを回避 変分相互情報量最大化 II – 相互情報量の下限𝐿𝐼(𝐺, 𝑄) – 最終的なInfoGANの目的関数 GANの目的関数 相互情報量下界 13/19
  19. 19. • 補助分布𝑄(𝑐|𝑥)の選定 – 𝑄は識別器𝐷のネットワークを流用 • GANからの学習コストの増加は非常に小さい – 𝐷の最上位層に条件付き分布を表現する全結合層を追加 • カテゴリカルな隠れ符号: softmax • 連続値の隠れ符号: factored Gaussian • パラメータ𝜆 • 離散値隠れ符号: 𝜆=1がおすすめ • 連続値隠れ符号: 𝜆は小さいほうがおすすめ 実装 14/19
  20. 20. • 論文概要 • GANとは • InfoGANの目的とアイディア • 実験結果 • まとめ Agenda
  21. 21. • 相互情報量最大化 – 実験条件 • 隠れ符号: 𝑐~Cat(𝐾 = 10, 𝑝 = 0.1) • 相互情報量の最大値: 𝐻 𝑐 ≈ 2.30 – 実験結果 • InfoGANは学習に伴い相互情報量がほぼ最大値に近づく • GAN(モデルはInfoGAN)の相互情報量は増加せず 実験結果 I: MNIST InfoGANの目的関数を用いて学習することで生成分布に 大きく影響を与える(従属する)隠れ符号が獲得された 15/19
  22. 22. • 獲得された表現の確認と画像生成 – 隠れ符号: 𝑐1~Cat 𝐾 = 10, 𝑝 = 0.1 , 𝑐2, 𝑐3~Unif(−1,1) 実験結果 II: MNIST 教師なし学習にもかかわらず𝑐1で5%の誤識別率 16/19
  23. 23. • 獲得された表現の確認と画像生成 – 隠れ符号: 𝑐1, ⋯ , 𝑐5~Unif(−1,1) 実験結果 III: CelebA 17/19
  24. 24. • 獲得された表現の確認と画像生成 – 隠れ符号: 𝑐1, ⋯ , 𝑐10~Cat 𝐾 = 10, 𝑝 = 0.1 実験結果 IIII: CelebA 18/19
  25. 25. • 論文概要 • GANとは • InfoGANの目的とアイディア • 実験結果 • まとめ Agenda
  26. 26. • GANによる解釈可能な特徴量表現を獲得するInfoGAN – 生成ベクトル𝒛のソースと隠れ符号𝒄の明示的な分割 – 隠れ符号と生成分布の相互情報量𝐼を最大化し従属性を保証 – 𝐼の下限を計算する補助分布𝑄は識別器𝐷を流用してコストを抑える – 様々なデータセットで獲得された表現と生成画像を確認 • 限界と次の課題 – 教師なし学習なのでデータの分布に内在する特徴のみ抽出可 – VAEなど他モデルへの応用や半教師あり学習の改善 – 階層的な表現の獲得 – マルチモーダル情報の扱い まとめ 19/19
  27. 27. [Goodfellow+, 2014] Ian J. Goodfellow, Jean Pouget-Abadiey, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozairz, Aaron Courville, and Yoshua Bengio, Generative Adversarial Nets,NIPS2014 [Randford+, 2015] Alec Radford, Luke Metz, and Soumith Chintala, Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks, ICLR 2016 [Kingma+, 2014] Diederik P. Kingm, Danilo J. Rezendey, Shakir Mohamedy, and Max Welling, Semi- supervised Learning with Deep Generative Models, NIPS2014 [Barber and Agakov, 2003] David Barber and Felix Agakov, The IM Algorithm : A variational approach to Information Maximization, NIPS2003 Chainer-DCGAN: http://mattya.github.io/chainer-DCGAN/, ChainerによるDCGANのデモ 参考文献

×