Servcie Fabric and Cloud Design Pattern

Azure Service Fabric と
Cloud Design Pattern
Takekazu Omi
takekazu.omi@kyrt.in
2016/4/16 R.1.0

自己紹介
近江武一
JAZUG Azure Storage 担当（自称）
Microsoft MVP for Azure
http://www.slideshare.net/takekazuomi
kyrt inc 2
kyrt.in
github.com/takekazuom
i
white paper
監訳
2016/4/16

はじめに
Service Fabric の背景
2016/4/16 kyrt inc 3

Service Fabric の全体を通して話をするには、
1時間では短すぎるので、今回はアーキテク
チャ関連にフォーカスを置いて話します
間にちょくちょく、Azure クラウドデザインパ
ターンで話題に上がっていた課題をService
Fabricがどのように取り組んでいるのかを挟
んで行きます
今後数回に分けて勉強会を企画しています
kyrt inc 42016/4/16

CDP本
 以下、CDPのリンク先は英語ですが、翻訳あり
ます
 Microsoft patterns & practices
 Cloud Design Patterns: Prescriptive
Architecture Guidance for Cloud Applications
⇨ http://msdn.microsoft.com/en-
us/library/dn568099.aspx
 クラウドデザインパターン Azureを例としたクラ
ウドアプリケーション設計の手引き
⇨ http://ec.nikkeibp.co.jp/item/books/P98330.html
⇨ 日経BP
kyrt inc 52016/4/16

Service Fabric とは（140文字で）
分散システムプラットフォーム
スケーラブルで高信頼性、マイクロサービスの簡
単なパッケージ化、デプロイ、管理を実現
次世代のミドルウェアプラットフォーム
エンタープライズクラスの Tier-1 クラウドスケー
ルアプリケーションを構築管理
kyrt inc 62016/4/16

Battle-hardened for over 5 years
Azure Core Infrastructure thousands of machines
Azure Document DB billions transactions/week
Intune 800k devices
Skype for Business Hybrid Ops
Event Hubs 20bn events/day
Azure SQL Database 1.4 million databases
Bing Cortana 500m evals/sec
PowerBI
kyrt inc 72016/4/16
出典: BUILD 2015 2-640 Microsoft Azure Service Fabric Architecture

2015/4/20 Azure Service Fabric を発表
 Service Fabric は、高度な制御プラットフォーム
 開発者や ISV は、拡張性とカスタマイズ性の高いクラウドサービスを構築可
 ミッションクリティカルなクラウドサービスを提供してきたマイクロソフトの経験を基
礎として開発
 5 年以上にわたって実際に運用
 基盤となるテクノロジは、Azure のコアインフラストラクチャに使用（実証済）
 Skype for Business、Intune、Event Hubs、DocumentDB、Azure SQL
Database 、Bing Cortana などの基盤で利用
 毎秒 5 億回を超える評価に対応可能な拡張性
BUILD 2016 でGA
2016/4/16
http://blogs.msdn.com/b/windowsazurej/archive/2015/04/23/announcing-azure-service-fabric-reducing-complexity-in-a-hyper-scale-
world.aspx
kyrt inc 8

Divide and rule
Azure そのものが突きつけられた課題
⇨５年ほど前から社内利用
分割して統治せよ
⇨モノリシックな大きなものではなく、分割された複
数のサービスの組み合わせでアプリケーションを
作成
kyrt inc 92016/4/16

Regional Network Manager Microservices
kyrt inc 102016/4/16
ONS 2015: Wednesday Keynote - Mark Russinovich https://youtu.be/RffHFIhg5Sc

Cloud Scale Application 基本戦略
 Reliable
⇨ 複製を持つ – replication
⇨ CDP:Data Replication and Synchronization Guidance
https://msdn.microsoft.com/en-us/library/dn589787.aspx
 Scalable
⇨ partition分割する – partitioning
⇨ CDP:Data Partitioning Guidance
 Low latency
⇨ データとコードを近くに配置
⇨ CDP:Caching Guidance
 運用の自動化（後述）
kyrt inc 112016/4/16

クラウドアプリケーションの重要な課題
プロビジョニング
デプロイ
監視
アップグレード
削除
2016/4/16
Service Fabric
プラットフォーム
kyrt inc 12

Service Fabric とは
Miroservice プラットフォーム
⇨アプリケーションの開発、配置、管理
IaaSとPaaSの統合
⇨クラスターリソース
分散システム実行環境
⇨レイテンシーの向上
⇨データのパーティショニング
kyrt inc 132016/4/16

Microservices
はじめに
kyrt inc 152016/4/16

マイクロサービスとは
 全ての機能を盛り込んだ
モノリシック（一枚岩の）
なアプリケーションではな
く、分割された複数の
サービスの組み合わせ
でアプリケーションを作る
アーキテクチャ
 James Lewis が書いた
Martin Fowler 氏の Blog
(日本語訳)で有名に
2016/4/16 kyrt inc 16

Microservices 論点 by James Lewis
1.Componentization via Services
別プロセスで動作するサービスによっ
てアプリケーションのコンポーネント化
2.Organized around Business
Capabilities
ビジネス機能ごとにサービスを構築（コ
ンウェイの法則）
3.Products not Projects
プロジェクトではなくプロダクトにフォー
カス
4.Smart endpoints and dumb pipes
スマートなエンドポイントとダムバイプ
5.Decentralized Governance
分散統治
6.Decentralized Data Management
分散データ管理
7.Infrastructure Automation
インフラ自動化
8.Design for failure
失敗を前提とした設計
9.Evolutionary Design
進化する設計
kyrt inc 172016/4/16
コンウェイの法則
「システムを設計する組織は、その構造をそっくりまねた構造の設
計を生み出してしまう」
(原文: "Organizations which design systems are constrained to
produce designs which are copies of the communication
structures of these organizations.")

超解説
1. アプリケーションを小さなService群の組み合わせで構築
2. Serviceは個別にデプロイできるような単位がいい
3. Service間はhttpのような軽量なプロトコルにしてSmart Endpointの実
装にしよう
4. Serviceはビジネス機能の粒度にして、チームを構成しよう
5. Serviceが異なる言語で記述されたり別のデータストレージ技術を使う
はありだ
6. インフラの自動化でMicroservicesの構築、デプロイ、運用の複雑さを
減少しよう
kyrt inc 182016/4/16
Microservice は、ソフトウェアのコンポーネント化、コンポーネントの
組み合わせによるアプリケーションの構築という話しの正常進化

Martin Fowler氏の問題提起
Microservice の導入は根本的な複
雑さをシステムにもたらし、生産性を
低下させる。
ターゲットシステムの複雑さがある値
を超えた場合にだけ、 Microservice
にはメリットがある。
右図：縦軸が生産性、横軸が複雑さ
参照：MicroservicePremium
⇨ http://martinfowler.com/bliki/Mic
roservicePremium.html
kyrt inc 192016/4/16

Service Fabric の目標
A：Microserviceのもたらす生産性の低下を小さく
B: 生産性の低下と複雑さの関係のスレッショルドを左へ
C: Microserviceのもたらす生産性の向上を大きく
kyrt inc 202016/4/16
生産性
生産性
システムの複雑さシステムの複雑さ
AA
B
B
C
C

Service Fabric Cluster
2016/4/16 kyrt inc 21

Cloud Service (PaaSv1)
モダンなクラウドアプリケーションでは、高可用、スケーラブルを実現するために、「Immutable
InfrastructureとDisposable Components」という戦略を取ります。Azureだと、Web/Worker
Roleで実装されるCloud Serviceがそれです。
この戦略では、各Nodeは状態を持たず、Node障害の場合に容易に代替Nodeを割り当てて対
応でき、処理能力が足りない場合はNodeを追加することでスケールすることができます。
PaaSv1では、全てのRoleは仮想マシンの専有配置
です。(Node=Instance)
そのため、OSの設定やランタイムのインストールな
ど細かいことを自由にできるという大きなメリットが
ありますが「もう少し配置に自由度が欲しいよね」と
いうのが今回の話しです。
2016/4/16 kyrt inc 22

例：Availability
可用性を保った構成とするためには、最低２つ
のNodeに配置する必要があります
その結果、Roleの粒度を小さくするとNode(=イ
ンスタンス)の数が増えます
CDP: Compute Partitioning Guidance で言う、
logical decomposition と、physical partition の
考慮事項が複雑になります
⇨ https://msdn.microsoft.com/en-us/library/dn589773.aspx
2016/4/16 kyrt inc 23

Static Partitioning 問題
このようにRoleの分割が静的に行われているのを、
Static Partitioning （静的分割？）と言います。
Static Partitioning は、Role を増やせば、増すほど扱
いづらくなります。ワークロードを事前に予測すること
が難しい場合もあり、リソースの利用効率という観点
からはムダが生じやすい仕組みです。
A:複数のRoleをNodeに入れてしまえばいいのでは？
2016/4/16 kyrt inc 24

Cluster: System View
2016/4/16
Failover
manager
Cluster
manager
Naming
Image store
System Services
kyrt inc 25

Compute Partitioning
複数のNodeから構成されたClusterを使い。
Node内に複数のサービスをホスト出来るように
することで、高密度で柔軟な構成を取ることが可
能になりました
CDP：Compute Partitioning Guidance
https://msdn.microsoft.com/en-
kyrt inc 262016/4/16

Sam Newman 著、佐藤直
生監訳、木下哲也訳
2016年02月発行
ISBN978-4-87311-760-7
原書:Building Microservices
https://www.oreilly.co.jp/books/9784873117607/
kyrt inc 272016/4/16

IaaSとPaaSの統合
2016/4/16 kyrt inc 29

VMs and VM Scale Sets
Azure Public CloudAzure-Consistent Private Cloud
VM Extensions
SCALR, RightScale,
Mesos, Swarm
Service Fabric
(VMs and Containers)
BatchApp Service
Media
Web
Apps
Mobile
Apps
Apprenda, CloudFoundry
Jelastic, Marathon
Infrastructure
IaaS and
IaaS+
General
Compute
PaaS
Vertical
compute PaaS
Open Choice at Every Layer
Cluster
Orchestration
参照：https://channel9.msdn.com/Events/Build/2015/3-618

Azureの次世代 PaaS
Resource Manager Template
⇨宣言的なリソース管理
VM Scale Set
⇨Container サポート
Service Fabric
⇨Open - Windows/Linux, C#/Java サポート
kyrt inc 312016/4/16
ONS 2015: Wednesday Keynote - Mark Russinovich https://youtu.be/RffHFIhg5Sc
BUILD 2015: 3-618 The Next Generation of Azure Compute Platform with Mark Russinovich

Service Fabric
⇨PaaS V2, Reliable Service, Process
base
VM Scale Set
⇨Next Gen Worker Role, elastic autoscale
で迅速に同一のVMを作成
IaaS+（Managed IaaS）
⇨VM Extension, Backup, Monitoring
IaaS
⇨Windows, Linux, custom Image
2016/4/16 kyrt inc 32

ARM template
kyrt inc 342016/4/16

解説
1. 基本は、LB + VM Scale Set + Cluster
2. Cluster はクラスタの定義
⇨ Diagnostics Storage Account の設定
⇨ 管理用の EndPoint 定義など、Service Fabric
のサブシステムで使う情報を定義
3. 各ノードで動作するService Fabric のサブ
システムは、VM Extension で導入
kyrt inc 352016/4/16

Service Fabric Explorer
kyrt inc 362016/4/16

Service Fabric Programing model
プログラミングモデル概要、Stateful Service と、 Partitioning
2016/4/16 kyrt inc 37

Service Fabric Programming Models
Reliable Actors APIReliable Services API
Azure Private Clouds
Applications composed of microservices
High
Availability
Hyper-Scale
Hybrid
Operations
High Density Rolling
Upgrades
Stateful services
Low Latency
Fast startup &
shutdown
Container
Orchestration &
lifecycle management
Replication &
Failover
Simple
programming
models
Load balancing
Self-healingData Partitioning
Automated
Rollback
Health
Monitoring
Placement
Constraints
Service Fabric
参照：https://channel9.msdn.com/Events/Build/2015/3-618

Service Fabric API
APIは2つ
1. RELIABLE ACTORS API
コンカレンシー、ステートの保存などをライブラリ側
で実装
2. RELIABLE SERVICES API
やること多いけど、ASP.NETなどを動かすには便
利
kyrt inc 392016/4/16

Framework の選択
RELIABLE ACTORS APIS RELIABLE SERVICES APIS
問題領域が数多くの独立な状態とロジッ
クで構成
複数のコンポーネントの間のロジックを自
分で制御したい
外部との対話をあまり必要としない
single thread のオブジェクトである
reliable collections (like .NET
Dictionary and Queue) の保存は自分で
管理したい
platform が通信を管理通信やpartitioning schemeの管理、通
信か自分で行いたい
kyrt inc 402016/4/16
https://azure.microsoft.com/ja-jp/documentation/articles/service-fabric-choose-framework/

Stateful and Stateless
Nodeへの状態の保存、レイテンシーの向上
2016/4/16 kyrt inc 41

概要
Stateful Service は、Reliable Collection で実装
Actor は、基本Stateful前提（属性でコントロールでき
る）
Reliable Collection は、レイテンシーの向上に貢献
CDP: Caching Guidance の別解
kyrt inc 422016/4/16
Service Fabric Application Scenarios
https://azure.microsoft.com/en-gb/documentation/articles/service-fabric-application-scenarios/

☆Reliable Collection
重要：状態の永続化に利用
kyrt inc 432016/4/16

基本的な構造
状態をローカルでサービスインスタンスに格納、Node間レプリケーションで
高い可用性を実現
 読み取りはローカルで実行され、待機時間が短く高スループット
 書き込みはネットワーク IO が最小となり、待機時間が短く高スループット
kyrt inc 442016/4/16
https://azure.microsoft.com/ja-jp/documentation/articles/service-fabric-reliable-services-reliable-collections/

stateless services + external store
kyrt inc 452016/4/16

stateful services
kyrt inc 462016/4/16

Partitioning
スケーラブルなサービスの構築の中心的なパターン
2016/4/16 kyrt inc 47
https://azure.microsoft.com/ja-jp/documentation/articles/service-fabric-concepts-partitioning/

パーティション分割
パーティション分割は、スケーラブルなサービス
の構築の中心的なパターン
パーティション分割とは、広義では状態 (データ)
の分割に関する概念
Scalable
⇨CDP:Data Partitioning Guidance
https://msdn.microsoft.com/en-
kyrt inc 482016/4/16

Stateful Service のパーティション分割
ApplicationManifest.xml ファイルに、パー
ティション定義を記述
パーティションのルーティングはService
Fabric のランタイムで提供
（ServicePartitionResolver.GetDefault()）
接続先のNodeと該当データの割当は
Service Fabric のランタイムで管理
kyrt inc 492016/4/16

たぶんここまで
終
kyrt inc 502016/4/16

Actor とは何か？
Carl Hewitt 1973
Isolated components
⇨single-thread
code とstate をencapsulate
Asynchronous communication
kyrt inc 532016/4/16

Service Fabric に置けるActor
StatefulとStatelessの2種類
ActorProxy経由の簡単な呼び出し
kyrt inc 542016/4/16
ActorId actorId = ActorId.NewId();
string applicationName = "fabric:/CalculatorActorApp";
ICalculatorActor calculatorActor = ActorProxy.Create<ICalculatorActor>(actorId, applicationName);
double result = calculatorActor.AddAsync(2, 3).Result;
Garbage Collection
⇨Active Actor table へのadd/remove
⇨Actor lifecycle and Garbage Collection

Concurrency
 logical context は、単
一のthread で実行
（STA）
 Actors runtime allows
reentrancy by default
 state の復元、保存は
自動
https://azure.microsoft.com/e
n-
gb/documentation/articles/ser
vice-fabric-reliable-actors-
introduction/
kyrt inc 552016/4/16

おまけ
Apache Mesos, Hadoop YARN, Spark
2016/4/16 kyrt inc 57

Clusterを用意して、その上でアプリケーションを高密
度で走らせるという方法は、Service Fabric だけでな
く、最近のトレンド
プロセスの方が仮想化より軽い
単一テナントなら単純にアイソレーションより効率を求
めても良い
Auto Scale で仮想マシンを上げるのは、レイテンシー
が大きい
諸々あって、あちこちで似たようなことをやっている
kyrt inc 582016/4/16

Apache Mesos
2016/4/16 kyrt inc 59

Apache Mesos
 Apache Mesos は、twitter 社などで使われている Cluster
Manager です。Service Fabric と似た位置に属するOSSのプロ
ダクトです。BUILD 2015/3-612では、Cluster Orchestration で並
んでました。今回の資料では、Cluster Managerと呼んでます。
 ちょっと脱線して、「Mesos 使うとStatic Partitioning から開放さ
れるぜ」という話しが面白かったので紹介。
 Building and Deploying Application to Apache Mesos
⇨ 「Static Partition IS BAD、 Operating System === Datacenter 、
Mesos => data center のkernelだ」というようなことが書いてありま
す。
⇨ http://www.slideshare.net/charmalloc/buildingdeployingapplicatio
nsmesos
2016/4/16 kyrt inc 60

Mesos Overview
 Mesosは、master daemon と、各 cluster
node 上で実行される slave daemon、およ
びこれらのslave 上で task を実行する
Mesosの application(framework とも呼ば
れます）で構成
 cluster nodeは、 containerizer で動作し、
linux のcontrol cgroups や namespaces
で分離されたもので、Docker で分離された
ものが用意。(Mesos containerizer ,
Docker containerizer)
 slave のリソース状況に合わせて、複数の
アプリケーションをnode に配置することが
でき、高密度配置が可能
http://mesos.apache.org/documentation/latest/mesos-architecture
2016/4/16 kyrt inc 62

Hadoop YARN
Hadoop 生まれの Resource Manager for Cluser
2016/4/16 kyrt inc 63

YARN - Yet-Another-Resource-
Negotiator
2016/4/16 kyrt inc 64

YARN (2)
 大規模なClusterでは、Job Tracker がボトルネックになる
 任意の分散処理フレームワークやアプリケーションの作成を容易にする
新しいフレームワーク（MR専用ではない、Sparkでも利用可）
 YARNは、汎用的な分散アプリケーションの開発や、そのようなアプリ
ケーションからの（メモリやCPUといった）リソース要求のハンドリング、ス
ケジューリングを行い、実行を監督するためのデーモンとAPIを提供
 YARN の紹介
⇨ http://www.ibm.com/developerworks/jp/analytics/library/bd-yarn-intro/
 MR2とYARNの手短な解説
⇨ http://www.cloudera.co.jp/blog/mr2-and-yarn-briefly-explained.html
2016/4/16 kyrt inc 65

Apache Spark
Cluster Manager 上で動くOSS
2016/4/16 kyrt inc 67

Spark + Mesos、YARNの利用
Spark は、 MesosでもYARNでも動く（Cluster Manager と呼ばれる）
 Standalone
⇨ a simple cluster manager included with Spark that makes it easy to set
up a cluster.
 Apache Mesos
⇨ 汎用の cluster manager、 Hadoop MapReduce and service applications.
 Hadoop YARN
⇨ the resource manager in Hadoop 2.
 Amazon EC2
⇨ In addition, Spark’s EC2 launch scripts make it easy to launch a
standalone cluster on Amazon EC2.
2016/4/16 kyrt inc 68

Apache Spark Overview
Spark には、アプリケーションをcluster 上で動かすため
に、Cluster Manger というコンポーネントがある
2016/4/16
http://spark.apache.org/docs/latest/cluster-
overview.htmlkyrt inc 69

Cluster Manger
Clusterから必要な計算リソースを割当
⇨CPU(core)、memory
クラスター上で実行されるタスクの調整
⇨タスクの開始指示、タスクの実行のモニター、失
敗したタスクの再開
同一Cluster上での複数のアプリケーション動
作
2016/4/16 kyrt inc 70

参考資料
2016/4/16 kyrt inc 72

Service Fabric documentation
http://azure.microsoft.com/en-
us/documentation/services/service-fabric/
BUILD 2015, The Next Generation of Azure
Compute Platform with Mark Russinovich
https://channel9.msdn.com/Events/Build/2015/3-618
Microsoft Azure Service Fabric Architecture
Deep Dive into Microsoft Azure Service Fabric
Reliable Actors
2016/4/16 kyrt inc 73

Reliable Actors
2016/4/16 kyrt inc 74

Reliable Actors
2016/4/16 kyrt inc 75

Building MicroServices with Service Fabric
https://channel9.msdn.com/events/Build/2016/T69
3
Service Fabric Deploying and Managing
Applications with Service Fabric
https://channel9.msdn.com/Events/Build/2016/
P431
Azure Service Fabric for Developers
https://channel9.msdn.com/Events/Build/2016/
B874
kyrt inc 762016/4/16

 大規模分散システムの現在 – Twitter, 丸山不二夫
⇨ http://www.slideshare.net/maruyama097
 Evolution of The Twitter Stack,
Chris Aniszczyk
⇨ http://www.slideshare.net/caniszczyk/twitter-
opensourcestacklinuxcon2013
 GoogleがBorgの詳細を公開, Abel Avram
⇨ http://www.infoq.com/jp/news/2015/04/google-borg
 mesos, omega, borg: a survey, Andrew Wang
⇨ http://www.umbrant.com/blog/2015/mesos_omega_borg_survey.html
 YARN の紹介
⇨ http://www.ibm.com/developerworks/jp/analytics/library/bd-yarn-intro/
2016/4/16 kyrt inc 77

Servcie Fabric and Cloud Design Pattern

Recomendados

Recomendados

Mais conteúdo relacionado

Mais procurados

Mais procurados (20)

Destaque

Destaque (20)

Semelhante a Servcie Fabric and Cloud Design Pattern

Semelhante a Servcie Fabric and Cloud Design Pattern (20)

Mais de Takekazu Omi

Mais de Takekazu Omi (20)

Último

Último (9)

Servcie Fabric and Cloud Design Pattern

Notas do Editor