Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
•
0 gostou•1,946 visualizações
Optuna v3.2に向けて開発中の最新機能Human-in-the-loop最適化について解説します。 イベントサイト: https://wandb.connpass.com/event/280477/
Recomendados
Recomendados
Mais conteúdo relacionado
Mais procurados
Mais procurados (20)
Semelhante a Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
Semelhante a Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3 (20)
Mais de Preferred Networks
Mais de Preferred Networks (20)
Optunaを使ったHuman-in-the-loop最適化の紹介 - 2023/04/27 W&B 東京ミートアップ #3
- 1. Optunaを使った Human-in-the-loop最適化の紹介 2023/04/27 W&B 東京ミートアップ #3 Hideaki Imamura / Masashi Shibata
- 2. 2 自己紹介 MASASHI SHIBATA Preferred Networks, Inc. Engineer GitHub: @c-bata Twitter: @c_bata_ Optuna 開発者 / Optuna Dashboard 作者 HIDEAKI IMAMURA Preferred Networks, Inc. Researcher GitHub: @HideakiImamura Twitter: @mamurai1208 Optuna 開発者
- 3. 3 ● Optunaとは？ ● Optunaの応用事例 ● Human-in-the-loop最適化 アジェンダ
- 4. 4 Optunaとは？
- 6. 2018 Preferred Networks における内製ツールとして開発が始まる Google AI Open Images challenge において利用され2位を達成 β 版がGitHubで公開されオープンソース化する 2019 KDD, ODSC, SciPy (YouTube) などの会議/イベントで発表される 2020 v1.0 - stableな初めてのメジャーリリース v2.0 - 多くの新機能を含んだ２番目のメジャーリリース 2021 v2.10 - 多くの新機能やパフォーマンスの改善がなされる １日あたり20,000+ ダウンロード … 2022 v3.0 - APIの見直しや様々な新機能を含んだ３番目のメジャーリリース １日あたり60,000+ ダウンロード 2023 v3.1 - 現在の最新リリース
- 7. 7 Optunaの書籍が発売されました！ 初学者にとって最適な一冊です ● 丁寧なチュートリアル ● 様々な便利機能の紹介 ● 様々な応用事例の紹介 ● アルゴリズムの詳細 好評発売中です！
- 10. 10 自律移動ロボット向け機械学習モデル探索 セマンティックセグメンテーション ● エンコーダとデコーダからなるモデル 目的 ● 認識精度は高い方が良い ● 一方で、ロボット上で動作するためには推論速度は速い方が良い
- 11. 11 多目的最適化 精度と速度のトレードオフ ● 認識精度を最大化しつつ 推論時間を最小化する ● 認識精度が高い複雑なモデルは 推論時間が大きい ● 逆に、推論時間が小さい単純な モデルは認識精度が低い → 両者のトレードオフを考慮した 多目的最適化の必要性 精度 速度 ● 赤点: トレードオフをとる最適な点 ● 青点: 最適でない点 Better Better
- 15. 15 音声合成 ● Text-to-Speech等で生成された音声は人間にも自然に聞こえる？ 画像生成 ● よく見ると指の数が多すぎてたりしないか？ 自然言語生成 ● 言語生成モデルが提案してくれたTwitter宣伝投稿用の文章は バズりそうな感じに（訴求力のあるものに）なってる？ Optunaで扱うのが難しい最適化タスク 人間による確認（主観評価）が大事なタスクは難しい
- 17. 17 お題：かわいいOptunaくんの生成 (Stable Diffusion) Hey! Please make me cuter 🙏 Optunaくん Sure. Let’s try using Stable Diffusion! Me
- 18. 18 お題：かわいいOptunaくんの生成 (Stable Diffusion) 入力画像 Stable Diffusion プロンプト a mascot character with two eyes and a mouth, smiling, charming, painting huggingface.co/stabilityai/ stable-diffusion-2-1 ？ ナンカチガウ... 出力画像
- 19. 19 お題：かわいいOptunaくんの生成 (Stable Diffusion) 入力画像 Stable Diffusion プロンプト a mascot character with two eyes and a mouth, smiling, charming, painting huggingface.co/stabilityai/ stable-diffusion-2-1 ナンカチガウ... 出力画像
- 20. 20 お題：かわいいOptunaくんの生成 (Stable Diffusion) Hmm… 😫 Let me optimize a prompt with Optuna. Optunaくん But wait… How am I supposed to score how cute I am? 🤔 It’s time to use Human-in- the-loop Optimization! Me
- 21. 21 Human-in-the-loop最適化の流れ Optuna Dashboard main.py Storage 👍 Sample New Params (Prompts) Generate Images Choose 👍or 👎
- 22. 22 Optuna Dashboard Storage Human-in-the-loop最適化の流れ main.py 👍 Wow! He looks so cute 😍 Sample New Params (Prompts) Generate Images Choose 👍or 👎 1. Optunaが入力となるプロンプトを提案し、それ をもとに画像を生成
- 23. 23 👍 Human-in-the-loop最適化の流れ Optuna Dashboard main.py Sample New Params (Prompts) Generate Images Choose 👍or 👎 2. 生成画像をアップロード Storage
- 24. 24 Human-in-the-loop最適化の流れ Optuna Dashboard main.py Optuna Storage Artifact Store 👍 Wow! He looks so cute 😍 Sample New Params (Prompts) Generate Images Choose 👍or 👎 3. 人間が生成画像を確認し評価値を入力
- 25. 25 Optuna Dashboard Human-in-the-loop最適化の流れ Optuna Dashboard main.py Sample New Params (Prompts) Generate Images Choose 👍or 👎 👍 Storage 4. 評価値を受け取り新たなプロンプトを提案。 この一連の ”ループ” を繰り返す。
- 26. 26 Optuna Dashboardの画面操作 He looks cute 😍 It’s not my taste…
- 27. 27 新 Optunaくん チュートリアルのお題：画像生成(img2img) 旧 Optunaくん Cool! The left one is exactly I wanted 🥰 Me These were found!
- 28. 28 みんなもやってみよう
- 29. 29 ソースコード解説 main.py ソースコードURL👇 gist.github.com/c-bata/0eed0dfb416a6994fa30fb23bb38d3ad これから解説するコードの役割 Database & File Storage Optuna Storage sqlite:///db.sqlite3 Artifact Store FileSystemBackend Optuna Dashboard 1. Studyの作成とパラメータのサンプル 2. Objective Form Widgets登録 3. 新しいTrialの生成 4. パラメーターのサンプル 5. Stable Diffusionモデル実行 6. 画像アップロード 7. ノート（Markdownメモ）の保存 Optuna Dashboardの起動 $ optuna-dashboard …
- 30. 30 ChoiceWidget ラジオボタンによる選択入力 様々な評価値入力フォーム ChoiceWidget( choices=["Good 👍", "Bad 👎"], values=[-1, 1], ) SliderWidget( min=0, max=5, step=1, description="Higher is brighter.", ) SliderWidget スライダーで範囲の中から選択 ObjectiveUserAttrRef 定量評価値(auc等)と主観評価値(人間) を組み合わせた多目的最適化に使用 widgets=[ ChoiceWidget(...), # 指標1 ObjectiveUserAttrRef(key="auc"), # 指標2 ]
- 31. 31 概要 ● より自由度の高い画面をユー ザーに提供可能 ● Web UI / Python APIどちらか らも更新可能 Python API ● save_note(Trial, “# Hellon”) ● get_note(Trial) Markdownノート機能の活用
- 33. 33 GCS対応などご要望がございましたら、IssueやPRをお願いいたします！ FileSystemBackend ローカルのファイルシステム（特定ディレクト リ内）にArtifactを保存 Boto3Backend AWS S3等にArtifactを保存 その他（カスタムバックエンド） 右図の3つのメソッドを実装すれば、 その他のストレージにも対応可能！ Artifact バックエンドの切り替え from typing import Protocol class ArtifactBackend(Protocol): def open(self, artifact_id): ... def write(self, artifact_id, content_body): ... def remove(self, artifact_id): ...
- 34. 34 まとめ
- 35. 35 本発表で話したこと ● Optuna本発売中です！ ● 多目的最適化の紹介 ● Human-in-the-loop最適化の紹介 最後におねがい ● 今日紹介した新しい機能を駆使し てより多くの問題にOptunaを適 用しシェアしてください！ まとめ @hiron_rgkr 様の事例
- 36. Making the real world computable