Recommended
More Related Content
Similar to DEIM2019 楽天技術研究所の研究とケーススタディ（推薦システム）
Similar to DEIM2019 楽天技術研究所の研究とケーススタディ（推薦システム） (20)
Recently uploaded
Recently uploaded (10)
DEIM2019 楽天技術研究所の研究とケーススタディ（推薦システム）
- 1. DEIM 2019 楽天技術研究所の研究とケーススタディ（推薦システム） 楽天株式会社 楽天技術研究所 中村 翔 March 5th, 2019
- 2. 2 About me… 中村 翔 （なかむら しょう） 2018年10月 – : 楽天技術研究所 インテリジェンスドメイン 応用行動分析チーム 2012年 – : ビッグデータ部 検索プラットフォームの開発（社内複数サービスに共通の基盤を提供） 特に言語処理やクエリ周り、ランキングなどの精度改善 大学・大学院時代：東大 航空宇宙工学 超小型人工衛星（まだ飛んでない）を作ったり、 ローバー走らせたり 研究室OGの山崎直子宇宙飛行士
- 3. 3
- 4. 4 楽天のサービス
- 10. 10 拡大する楽天経済圏 楽天のサービス 楽天経済圏＜拡大を続けるビッグデータ＞ 購買データ （楽天市場, カード, Edy, …） メンバーシップデータ （年齢, 性別, ） 製品データ （タイトル, ジャンル, 価格, ブランド, …） 金融資産データ （銀行, 証券, …） 位置情報データ （カード, Edy, R-Pay, …） 閲覧履歴データ （楽天市場, トラベル, …） など
- 11. 11 Rakuten Institute of Technology （楽天技術研究所） • Established in 2006. 森正弥 Global Head of RIT 楽天グループにおける戦略的R&D組織
- 12. 12 世界６箇所に160名以上の研究者が在籍 TOKYO SINGAPORE PARIS BOSTON SAN MATEO BENGALURU (BANGALORE) 2018 NEW! 2018 NEW!
- 13. 13 楽天技術研究所の研究分野 インターネットの成長に合わせて構成された ３つの研究ドメイン RealityIntelligencePower • HCI • VR / AR / MixedReality • 画像処理 • ロボティクス • HPC • プログラミング言語 • 機械学習 • 深層学習 • 自然言語処理 • データマイニング
- 14. 14 楽天技術研究所の研究分野 インターネットの成長に合わせて構成された ３つの研究ドメイン RealityIntelligencePower • HCI • VR / AR / MixedReality • 画像処理 • ロボティクス • HPC • プログラミング言語 • 機械学習 • 深層学習 • 自然言語処理 • データマイニング
- 18. 18 Recommender Challenge for Viki (動画サービス) 2015’ Rakuten Viki, https://www.viki.com/videos/219471v-alice-in-wonderland, 2019/2/28
- 19. 19 Recommender Challenge for Viki (動画サービス) 2015’ Rakuten Viki, https://www.viki.com/videos/219471v-alice-in-wonderland, 2019/2/28 ユーザ Gradient Boosting Decision Tree レコメンデーションスコア 動画 特徴量 ~500
- 20. 20 分散表現による推薦アルゴリズム The Quick Brown Fox Jumps Over The Lazy Dog … Embedding 文書の 単語列 購買履歴の 商品ID列 アナロジー 0.2 0.4 0.0 … 0.8 0.7 0.0 0.1 … 0.2 単語の 分散表現 0.3 0.8 1.0 … 0.2 0.9 0.0 0.1 … 1.0 商品IDの 分散表現 オリジナルの Word2Vec t 文方向
- 21. 21 位置情報を利用した推薦 Centroid Shop coordinates Boundary Step 1 : 利用した店舗の散布図 Step 4 : 推薦店舗の作成 Step 2 : 重心推定、 境界線描画 Step 3 : 域内全店舗の取得
- 24. 24 協調フィルタリングとコンテンツベースのアルゴリズム 協調フィルタリングの入力（評価値行列） コンテンツベースの入力（メタデータ） 2 5 3 3 2 4 ? 2 0 0 1 0 1 1 0 1 1 0 0 1 0 1 1 0 食品 果物・ スイーツ 0-1000円 1000円 以上 ジャンル価格 ユーザ アイテム アイテム コンテンツ属性データ
- 25. 25 協調フィルタリングとコンテンツベースのアルゴリズム 協調フィルタリングの入力（評価値行列） コンテンツベースの入力（メタデータ） 2 5 3 3 2 4 ? 2 0 0 1 0 1 1 0 1 1 0 0 1 0 1 1 0 食品 果物・ スイーツ 0-1000円 1000円 以上 ジャンル価格 ユーザ アイテム コンテンツ属性データ アイテム
- 26. 26 協調フィルタリングとコンテンツベースのアルゴリズム 協調フィルタリングの入力（評価値行列） コンテンツベースの入力（メタデータ） 2 5 3 3 2 4 ? 2 0 0 1 0 1 1 0 1 1 0 0 1 0 1 1 0 食品 果物・ スイーツ 0-1000円 1000円 以上 ジャンル価格 ユーザ アイテム コンテンツ属性データ アイテム
- 27. 27 サービスの事例 1 1 1 1 ユーザ アイテム デジタルコンテンツサービス 新規アイテム 数100件/日 新規アイテムの売上の比率: 大 対象： 特徴： AKB 48 日向坂 46 乃木坂 46 欅坂 46
- 28. 28 サービスの事例 デジタルコンテンツサービス 新規アイテム 数100件/日 新規アイテムの売上の比率: 大 協調フィルタリング： 1 1 1 1 推薦に 含められない 全アイテムデータ: 96520件 教師データ中のアイテム: 59497件 ユーザとアイテムのインタラクションが必要 対象： 特徴： ユーザ アイテム 新規アイテムやインタラクションのないアイテムが そのままでは推薦できない 精度の面で不利コンテンツベース： AKB 48 日向坂 46 乃木坂 46 欅坂 46
- 29. 29 サービスの事例 1 1 1 1 推薦に 含められない コールドスタート問題として知られる 全アイテムデータ: 96520件 教師データ中のアイテム: 59497件 AKB 48 日向坂 46 乃木坂 46 欅坂 46 ユーザ アイテム デジタルコンテンツサービス 新規アイテム 数100件/日 新規アイテムの売上の比率: 大 対象： 特徴：
- 32. 32 いくつかの手法 – Collaborative Topic Regression (CTR) [Wang+ 2011] 協調フィルタ リング: コンテンツ ベース: r u v I J σr σu σv wN M K z θ φ MF LDAα β r u v I J w K z φ θ N λu λv β α 行列因子分解 Matrix Factorization (MF) Latent Dirichlet Allocation (LDA) アイテムのメタデータを考慮して 行列因子分解(MF)を一般化 LDAと同様EMベースで計算が遅い 計算速度を改善したものに Collaborative Topic Poisson Factorization (CTPF)など CTR (Collaborative Topic Regression)
- 33. 33 いくつかの手法 – Content-aware CF with DNN DNNの結果を行列因子分解(MF)のPriorとして利用 [Liang+ 2015] 論文では音楽に対するネットワークの事例 当然、画像やテキストなどあらゆる入力に対するDNNに対して応用できるはず 近年、ディープラーニング(DNN)の推薦システムへの応用が盛り上がっている 例えば… DNNの最終隠れ層 正則化項
- 35. 35 最後の疑問として… どうやって新規や未購買のアイテムが含まれるコールドスタートの評価をするか？ 単純にRecallを計算するのでは、既存・新規どちらが改善したかわからない 1 1 1 1 In-Matrix Out-of- Matrix テストデータを分割 Recall@10 In-Matrix Out-of-Matrix 協調フィルタリング (item-based) 0.0272 0.0000 コンテンツベース 0.0215 0.0079 Our Hybrid 0.0306 0.0078 アイテムが 教師データにもある ない Hybridが協調フィルタリングとコンテンツ ベースのいいとこ取りになっている だが、評価はこれで十分か？ AKB 48 日向坂 46 乃木坂 46 欅坂 46
- 36. 36 最後の疑問として… どうやって新規や未購買のアイテムが含まれるコールドスタートの評価をするか？ 単純にRecallを計算するのでは、既存・新規どちらが改善したかわからない 1 1 ? 1 1 ? Kis-My- Ft2 King& Prince Sexy Zone 嵐 In-Matrix Out-of- Matrix テストデータを分割 Recall@10 In-Matrix Out-of-Matrix 協調フィルタリング (item-based) 0.0272 0.0000 コンテンツベース 0.0215 0.0079 Our Hybrid 0.0306 0.0078 Hybridが協調フィルタリングとコンテンツ ベースのいいとこ取りになっている だが、評価はこれで十分か？ ABテスト ↑研究所ロジック
- 41. 41 様々な未解決問題 • ワナ１ ユーザがアカウントを家族でシェア する • ワナ２ Bot と、ここまではきれいな結果をお見せしましたが・・・ 仕事で扱うデータには色々なワナが潜んでいます
- 42. 42 様々な未解決問題 • ワナ１ ユーザがアカウントを家族でシェア する • ワナ２ Bot • ワナ３ 貰ったデータが間違っている と、ここまではきれいな結果をお見せしましたが・・・ 仕事で扱うデータには色々なワナが潜んでいます