MLのアプリをHerokuへ公開するのに苦労した話

1. MLを使ったLineBotをデプロイするのに苦労した話

2. 概要
1. デプロイする前提
2. デプロイするときに苦労した話
3. まとめ

3. 1.デプロイする前提

4. Webアプリにするにあたって
GCPのAI Platform等に簡単にデプロイできることは知っていた

5. Webアプリにするにあたって
GCPのAI Platform等に簡単にデプロイできることは知っていた
→お⾦をかけたくないでござる

6. ML実⾏のAPI以外にも
投稿などのほかの箇所の処理はどうするの？

7. ほかにデプロイするのに考慮した点
Pythonのバージョンを指定できるの（Python3.7で動いてくれるか不安だった）
環境構築⼿早くできるの？（早く公開したかった）

8. ほかにデプロイするのに考慮した点
Pythonのバージョンを指定できるの（Python3.7で動いてくれるか不安だった）
環境構築⼿早くできるの？（早く公開したかった）
→これらを考慮するとPaaS使うのがよさそうという結論に

9. 使⽤を検討したPaaS
Heroku(Python3.6をつかえそう)
Google App Engine(FlexだとPython3.6が使える 無料枠300ドル残ってた)

10. 2. デプロイするときにつらかった話

11. まず先に…
お⾦を1円もかけずデプロイできそうなHerokuから試そう

12. デプロイ時の条件
デプロイするモデル: ResNet50
使⽤したWebフレームワーク Flask
Dockerで環境をローカルで作った時はちゃんと動作

13. デプロイも成功したけど…

14. 原因を調査すると…
ResNet50のモデルがherokuのslugに格納するのの容量を超えていた(herokuにデプロイする際
にデプロイ後の容量がheroku上で圧縮して500MB以下にならなければならない)
kerasで出⼒したモデルのファイルが圧縮してもそこまで容量が⼩さくならなかったためと考えられ
る

15. よろしいならばGAEだ
FlexならPython3.6も使える
herokuほどストレージの条件厳しくなさそう…

16. ということでGAEにデプロイすると…
うまく動作した！
よしこれでうまくいく！

17. ということでGAEにデプロイすると…
うまく動作した！
よしこれでうまくいく！
…はずだった

18. デプロイして2か⽉ほどして…
googleからメールが届く

19. デプロイして2か⽉ほどして…
googleからメールが届く
→トライアルの300ドル分使い果たして1000円分超過しているので⽀払い発⽣するよとのこと

20. デプロイして2か⽉ほどして…
googleからメールが届く
→トライアルの300ドル分使い果たしてさすがに1か⽉9000円近く払うのはきつい1000円分超過
しているので⽀払い発⽣するよとのこと
さすがに1か⽉9000円近く払うのはきつい

21. どうしよう…
モデルをMobileNetV2に変えてみてもう⼀度herokuで試すか…

22. 懸念点
MobileNetV2に変えても精度が落ちないか
モデルが軽くなったとしてもherokuでちゃんと動くか

23. 結局のところ…
両⽅ともそれは杞憂であった

24. 普通にWebアプリにしたけど…
ほかの⼈が⼿軽に使えるようにするにはLineBotのほうが良いのでは？
調べたところ既存のWebアプリ⽤のコードと共存もできそう

25. ということで…
LineBotのチュートリアルを参考にしつつ1時間ほどで処理を追加

26. ということで…
LineBotのチュートリアルを参考にしつつ1時間ほどで処理を追加
→ちゃんと動作するものが完成

27. 3.まとめ

28. まとめ
お⾦を1円もかけずMLのデモンストレーションをしたいのであればheroku状にLineBot作るっての
は⼀つの⼿
作成したモデルのファイルサイズには制限あるかも

29. さいごに…
作成したLineBotのQRコードです