Chainer と Microsoft Azure 広がる応用 (Chainer Meetup #5)

Chainer と Microsoft Azure
広がる応用
廣野淳平マイクロソフト

自己紹介
Preferred Networks社との Global Alliance 担
当
GPUは1080（無印、Ti 買わないぐらいのヒ
ヨッコ）
Chainer & Azure で深層学習の実社会での応
用を推進！

Microsoft Azure = オープンクラウド
3
+Hundreds of community
supported images on
VM Depot
SQL Server
オープンかつ柔軟なクラウドで幅広い選択肢をご提供してきました
Web App Gallery
Dozens of .NET & PHP
CMS and Web apps
Microsoft Azure
Azure 内の3分の1の
仮想マシンが
Linuxで稼働

Platform Services
Infrastructure Services
Web Apps
Mobile
Apps
API
Management
API Apps
Logic Apps
Notification
Hubs
Content
Delivery
Network (CDN)
Media
Services
BizTalk
Services
Hybrid
Connections
Service Bus
Storage
Queues
Hybrid
Operations
Backup
StorSimple
Azure Site
Recovery
Import/Export
SQL
Database
DocumentDB
Redis
Cache
Azure
Search
Storage
Tables
Data
Warehouse Azure AD
Health Monitoring
AD Privileged
Identity
Management
Operational
Analytics
Cloud
Services
Batch
RemoteApp
Service
Fabric
Visual Studio
App
Insights
Azure
SDK
VS Online
Domain Services
HDInsight Machine
Learning
Stream
Analytics
Data
Factory
Event
Hubs
Mobile
Engagement
Data
Lake
IoT Hub
Data
Catalog
Security &
Management
Azure Active
Directory
Multi-Factor
Authentication
Automation
Portal
Key Vault
Store/
Marketplace
VM Image Gallery
& VM Depot
Azure AD
B2C
Scheduler
The Azure Platform

GPU 搭載インスタンス～ N シリーズ
NV Series (Tesla M60 搭載)：RemoteFX vGPU によって強力な 3D グラフィック性能を実現
NC Series (Tesla K80 搭載) ：Direct device assignment による仮想環境上の強力な GPU 処理を実現
GPU 機能 Tesla M60
GPU 2x NVIDIA Maxwell GPU
Max Power 300 W
フォームファクター PCIE 3.0 Dual slot
クーリングソリューション Passive/Active
メモリサイズ 16 GB (GPU ごとに 8 GB)
CUDA コア数 4,096 (GPU ごとに 2,048)
GPU 機能 Tesla K80
GPU 2x Kepler GK210
最大倍精度浮動小数点性能
2.91 TFlop (GPU ブーストクロック)
1.87 TFlop (ベースクロック)
最大単精度浮動小数点性能
8.74 TFlop (GPU ブーストクロック)
5.6 TFlop (ベースクロック)
メモリバンド幅毎秒 480 GB (GPU ごとに毎秒 240 GB)
メモリサイズ 24 GB (GPU ごとに 12 GB)
CUDA コア数 4,992 (GPU ごとに 2,496) 5
◆Physical Card Spec. ◆Physical Card Spec.
NV6 NV12 NV24 NC6 NC12 NC24 NC24r
Cores 6
(E5-2690v3)
12
(E5-2690v3)
24
(E5-2690v3)
6
(E5-2690v3)
12
(E5-2690v3)
24
(E5-2690v3)
24
(E5-2690v3)
GPU 1 x M60 GPU
(1/2 Physical
Card)
2 x M60 GPU
(1 Physical
Card)
4 x M60 GPU
(2 Physical
Cards)
1 x K80 GPU
(1/2 Physical
Card)
2 x K80 GPU
(1 Physical
Card)
4 x K80 GPU
(2 Physical
Cards)
4 x K80 GPU
(2 Physical
Cards)
Memory 56 GB 112 GB 224 GB 56 GB 112 GB 224 GB 224 GB
Disk ~380 GB SSD ~680 GB SSD ~1.5 TB SSD ~380 GB SSD ~680 GB SSD ~1.5 TB SSD ~1.5 TB SSD
Network Azure
Network
Azure
Network
Azure
Network
Azure
Network
Azure
Network
Azure
Network
InfiniBand

デプロイした瞬間売切御免な GPU
 2016 年 8 月プレビュー開始、12 月に製品版に。
 4 か月で 5,000 顧客がサインアップ
 Cris.ai など MS 1st Party サービスの展開
 AI と Deep Learning が需要をけん引
 OpenAI, City of Hope(Cancer detection) などが
GPUを大量消費

今年夏、P100 が Azure に来る!!
NC6s_v2 NC12s_v2 NC24s_v2 NC24rs_v2
Cores 6 12 24 24
GPU 1 x P100 2 x P100 4 x P100 4 x P100
Memory 112 GB 224 GB 448 GB 448 GB
Disk ~700 GB SSD ~1.4 TB SSD ~3 TB SSD ~3 TB SSD
Network Azure Network Azure Network Azure Network InfiniBand

今年夏、P40 も Azure に来る!!
ND6s ND12s ND24s ND24rs
Cores 6 12 24 24
GPU 1 x P40 2 x P40 4 x P40 4 x P40
Memory 112 GB 224 GB 448 GB 448 GB
Disk ~700 GB SSD ~1.4 TB SSD ~3 TB SSD ~3 TB SSD
Network Azure Network Azure Network Azure Network InfiniBand

気になるお値段…
10
Amazon Azure Azure Google IDCF Sakura
Gen Kepler Kepler Pascal Kepler Pascal Pascal
GPU K80 x 1 K80 x 1 P100 x 1 K80 x 1 P100 x 1 P100 x 1
CPU Core 4 6 6 16 56 8
RAM 61GB 56GB 112GB 60GB 256GB 128GB
Cost / Hour $0.9 $0.9 まだ極秘 $0.7 $3.94 $3.19
https://aka.ms/gpupreview

メジャーな分析ツールが
インストール、構成済み
Azure GPU VM 上に
Deep Learning 拡張機能が組み込み
Developer Editions of SQL & R Server
Azure Batch が利用可能に
Azure Data Science Virtual Machine

データサイエンス仮想マシン
13

ハイパースケール環境での
トレーニングとデプロイ
あなたのアプリとデータに
インテリジェンスを
全ての AI ツール
でデータを扱える
オンデマンドでトレーニングが
出来、スケールアウト
するGPU環境
Azure Batch AI Training
Azure Data Lake
Cognitive APIs
CNTK, TensorFlow,
Chainer…
Python, Visual Studio…
Sign-up for preview: aka.ms/batchaitraining
+ =

来週トレーニングもあります。
https://aka.ms/batchaitraining

Chainer MN on Azure GPU InfiniBand Cluster
16

Chainer MN on Azure GPU InfiniBand Cluster
17

従来の Database
+ App
Intelligence Database
+ App
データが存在する場所に ”知性” を
Application +
Intelligence
Database
Application
Intelligence
+ Database
VS

R & Python ベースの
AI のストアドプロシージャ
Graph モデルのサポートによる
より複雑な関係を分析
クエリ処理の最適化による
比類なきパフォーマンス
AI を組み込んだ最初の商用データベース
SQL Server
2017

「Deep Learning Lab」
• 本コミュニティを説明する1文
• ディープラーニングに関連する技術とビジネスの両面に精通したプロフェッ
ショナルたちが開発事例や最新技術動向を情報発信するコミュニティです。
• 概要説明文
• Deep Learning to Market コミュニティは、ディープラーニングを中心とし
た先端技術の持つ可能性を実際のビジネスへ応用するべく、技術とビジネス
の両面に精通したプロフェッショナルたちが集まるコミュニティです。
Microsoft AzureとChainerを主要なプラットフォーム/フレームワークとして、
ニーズに合わせた最適な技術を選択し開発した事例や最新技術動向の情報発
信を行いディープラーニング領域のソリューション検討を具体的に進められ
るように支援します。
• Connpassサイト： https://dllab.connpass.com/
23

まとめ
24
https://dllab.connpass.com/

Chainer と Microsoft Azure 広がる応用 (Chainer Meetup #5)

Recomendados

Recomendados

Mais conteúdo relacionado

Mais procurados

Mais procurados (20)

Semelhante a Chainer と Microsoft Azure 広がる応用 (Chainer Meetup #5)

Semelhante a Chainer と Microsoft Azure 広がる応用 (Chainer Meetup #5) (20)

Mais de Hirono Jumpei

Mais de Hirono Jumpei (20)

Chainer と Microsoft Azure 広がる応用 (Chainer Meetup #5)

Notas do Editor