2. 濱野 椋希
n 所属:横浜国立大学 > 白川研究室 > D2
n 研究:Black-Box最適化・進化計算
登壇に至った経緯
n 自身がFirst Authorである論文の手法 CMA-ES with Margin が
Optunaに導入予定
n CMA-ES with Margin:混合整数に対応したCMA-ESの改良手法
n 本手法や関連手法の解説のため登壇
2
自己紹介
3. ① CMA-ESとハイパーパラメータ最適化(HPO)
- そもそもCMA-ESってどんな手法?
- CMA-ESをHPOに適用するとき,どんな課題がある?
② CMA-ES with Marginについて
- 整数変数に対応するための基本的なアイディア
- デモンストレーションで視覚的に効果を確認
③ BBOBによる性能比較
- BBOB:Black-Box Optimization Benchmarking
- 他のBlack-Box最適化手法との性能比較
3
本日の流れ
5. Covariance Matrix Adaptation Evolution Strategy (CMA-ES)
n Black-Box連続最適化を行う進化計算手法
n 進化計算手法における最も有力な手法の1つ
n 多変量ガウス分布を用いて探索 (次元間依存を考慮可能)
n 全てのパラメータに推奨値が設けられている
(ユーザがチューニングすることなく利用可能)
5
CMA-ES|概要
f : RN
! R
N. Hansen and A. Ostermeier, “Adapting arbitrary normal mutation distributions in
evolution strategies: the covariance matrix adaptation,” In Proceedings of IEEE
International Conference on Evolutionary Computation.
N. Hansen, “The CMA Evolution Strategy: A Tutorial,” arXiv:1604.00772, 2016.
14. n CMA-ESは多変量ガウス分布を更新することで最適化を行う
n ハイパーパラメータ最適化(HPO)では
- 学習には時間がかかるので少ない評価回数で最適化したい
- 場合によっては離散変数にも対応する必要がある
n 低Budgetの場合,CMA-ESではいくつか対処法がある
n CMA-ESは連続変数にしかサポートしていない
- 四捨五入して整数変数にエンコードすると固定化が発生
➡ 整数変数が固定化されると解の改善が困難に
14
ここまでのまとめ
この固定化に対処するために生まれたのが CMA-ES with Margin
16. n 混合整数Black-Box最適化に対応したCMA-ESの改良手法
n Marginという分布の補正により,整数変数が固定化される
問題を解決
n バイナリ変数,任意の離散変数 ( [10-1, 10-2, 10-3] など)にも対応
(カテゴリ変数には未対応)
n 通常のCMA-ESの一般化になっており,拡張性も高い
16
CMA-ES with Margin|概要
Ryoki Hamano, Shota Saito, Masahiro Nomura, and Shinichi Shirakawa,
“CMA-ES with Margin: Lower-Bounding Marginal Probability for
Mixed-Integer Black-Box Optimization,” In Genetic and Evolutionary
Computation Conference (GECCO ʼ22).
27. BBOB > bbob-mixint
n 混合整数Black-Box最適化のための大規模なベンチマーク
n 24種類の様々な性質をもつ関数セット
n 5, 10, 20, 40, 80, 160次元
n 整数の種類はバイナリを含む4種類
27
BBOBによる性能比較|bbob-mixintについて
Tea Tušar, Dimo Brockhoff, and Nikolaus Hansen, “Mixed-integer benchmark
problems for single-and bi-objective optimization,” In Proceedings of the Genetic
and Evolutionary Computation Conference (GECCO '19).
Integer variables
N : 次元数
29. CMA-ES with Marginを bbob-mixint で評価
n GECCO Workshopにて論文投稿・発表済み
n リスタート戦略を追加して検証
➡ 評価回数の予算が許す限り,終了判定⇄やり直し を繰り返す
n 今回はその内容の一部を抜粋して紹介
29
BBOBによる性能比較
Ryoki Hamano, Shota Saito, Masahiro Nomura, and Shinichi Shirakawa,
“Benchmarking CMA-ES with Margin on the bbob-mixint Testbed,” In Genetic
and Evolutionary Computation Conference Companion (GECCO ʼ22 Companion)
30. bbob-mixintで実験されている手法
n Random Search (一様分布からサンプル)
n Differential Evolution (DE)
n CMA-ES (整数対処つき)
n Tree-structured Parzen Estimator (TPE)
30
BBOBによる性能比較|比較手法の確認
- scipy による実装
- 戦略は rand/1/bin,population sizeは
- pycma による実装で,上記論文からいくつか変更が加えられている
- hyperopt による実装
Hansen, Nikolaus, “A CMA-ES for mixed-integer nonlinear optimization,” 2011