運用が楽になる分散データベース Riak

1. 運用が楽になる分散データベース Riak Bashoジャパン株式会社 Software Engineer 佐藤貴彦 2013/07/31 BPStudy#71

7. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. Riakの設計ポリシー •  Amazon Dynamo論文をベースに設計された分散KVS •  以下に重点を置いている •  可用性（Availability） •  耐障害性（Fault-tolerance） •  運用の容易性（Operational simplicity） •  スケーラビリティ（Scalability）

8. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. Dynamo 論文より •  Dynamo: Amazon’s Highly Available Key-value Store •  可用性第一：常に書き込みができること → 書き込み時ではなく、読み込み時に整合性チェック → 例：ECサイトで常にショッピングカートを動かしたい •  一貫性の考え方：Eventual Consistency → AP優先だが、チューニング可能 •  レイテンシの考え方： → 99.9パーセンタイルの応答を一定時間内に返す

9. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. Riakは Erlang/OTP上で動作 •  クラスタリングやノード間のメッセージングなどは、 Erlang/OTPにまかせている •  Erlang/OTPとは？ •  元々はエリクソン社が電話交換機プログラムのために開発。「分散環境」「耐障害性」「無停止動作」を目的としたシステムを構築できるように設計されている。 Riakを使ったシステムもこの恩恵を享受できる

11. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. RiakはRDBではなくKVS •  Riakは永続性を持ったキーバリューストア •  Key と Value ペアで、データを Bucket に格納する •  バイナリで格納するため、文字列、画像、あらゆるデータを格納可能 11 Key Value •  ID: 0001 •  Name: Basho •  Product: Riak •  Logo:

23. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. 仮想ノード(vnode) •  Riakノードの内部はさらにvnodeと呼ばれる仮想ノード •  実際のデータは、Keyから計算されたハッシュ値により処理されるvnodeが決定される vnode vnode vnode vnode vnode vnode vnode vnode Riakノード(OSプロセス)

26. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. 1つのパーティションを 1つのvnodeが担当 Riakにおける仮想ノードとRing hash(bucket/key) から160bitのハッシュ値を計算例）P=32 の場合 32個のパーティションを 32個のvnodeで配分 160bitのハッシュ空間を、P個のパーティション（範囲）に分解 Ring vnode この範囲のデータは僕が担当します。 02 - 1 160

27. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. Riakにおける仮想ノードとRing hash(bucket/key) から160bitのハッシュ値を計算 vnode この範囲のデータは僕が担当します。 160bitのハッシュ空間を、P個のパーティション（範囲）に分解 Ring 1つのパーティションを 1つのvnodeが担当 node3 node2 node1 node4 02 - 1 160 例）P=32, 4ノードの場合 32個のパーティションを 32個のvnodeで配分し、 4つのRiakノードで配分。

29. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. 書き込み(put)時の挙動 •  Riakノードにデータがputされるとき、 N個の複製を生成する（default N=3）。 •  複製は隣接するvnodeに保存される。（隣接するvnodeは必ず異なるRiak ノード上にある） → 物理ノード障害に対応 •  W個の保存に成功した時点でクライアントに応答を返す。（default W=2） •  すべてのノードの応答を待たない。これはレイテンシを短くするため。 Riak Client node3 node2 node1 node4 put

31. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. レプリカの整合性を保つ Quorum-based Protocol •  put/getや、put/putの競合が発生しても以下の条件を満たせば競合を解決できる •  W+R N → put/getが競合しても、get側は必ず最新のオブジェクトを得られる •  W N/2 → put/putが競合しても、衝突を知ることができる。 •  Riakのデフォルト値は N=3, W=2, R=2 •  あとはオブジェクトの時間を比較可能 Riak Client node3 node2 node1 node4 Riak Client put get

32. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. 整合性を保てる例保てない例 •  N=4, W=3, R=2 の場合 W+R N , W N/2 を満たす •  N=3, W=3, R=1 の場合 W+R N , W N/2 を満たす put get put get old new •  N=3, W=2, R=1 の場合 W+R N を満たしていない put get古いデータを読んでしまうかも

33. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. オブジェクトの内部時計 Vector Clocks •  競合が発生した場合、最新オブジェクトを得るには、どのオブジェクトが最新かを比較する必要がある → オブジェクトのバージョン管理 •  各オブジェクトは「誰」が「いつ」更新したを記録する、オブジェクトの世界における時計 Vector Clocks を持っている。 •  オブジェクトの系譜をたどれる Riak Client node3 node2 node1 node4 Riak Client 過去現在 put get

34. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. put時の競合の解決は？ LWWとSiblings •  put/putの競合が起こった場合、Vector Clocks で新旧判断がつくなら、新しい方を残す。判断がつかない場合は？ •  Last Write Wins → 後から処理された方を残す。 •  Siblings Vector Clocksからは、新旧判断がつかないオブジェクトは、両方共残す。 Riak Client node3 node2 node1 node4 Riak Client 事実はなかったことに… put put どちらも最新バージョン

36. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. ノード障害時の書き込み挙動 Hinted Handoff •  ノード障害が発生して書き込みができない場合、一時的に次のノードに書き込みに行く。この動作を Handoff と呼ぶ。 •  PUT,GET,DELETEリクエストは、フォールバックノードに転送。 put Riak Client node3 node2 node1 node4 フォールバックノードにレプリカが保存される障害中・・・

38. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. 障害から復旧しなかったら？ Read Repair •  保存データの部分消失があった場合 get時に気がつくことができる。 •  再度複製を生成。 •  vnode間でオブジェクトの最新バージョンを維持しようとする。 node3 node2 node1 node4 Riak Client get レプリカ足りない…?

39. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. 自動修復機能 Active Anti-Entropy •  データの複製が失われた状態を、実際にgetするまで気がつけないことは危険。 •  AAE機能により定期的に自動修復 •  vnode単位でデータのハッシュツリーを持っている。定期的にハッシュ値の比較を行うことで、データ複製間の不整合を検知し、Read Repairを行う。 node3 node2 node1 node4 このvnodeのハッシュだけ一致しないぞ・・・？

44. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. Riak CS の特徴 •  Riak CS は「分散」オブジェクトストレージ •  Riakをベースに作られており、Riakの持つ拡張性、可用性、耐障害性、運用容易性をそのまま受け継いでいる •  Amazon S3 互換のAPI（NFS、CIFSなどのAPIは持たない） •  Riak CS を使うことで、Amazon S3 互換のクラウドを構築できる 44

49. ©2013 BASHO TECHNOLOGIES INC.ALL RIGHTS RESERVED. Riak/Riak CS 適用業界の例 •  小売業（ECサイト） •  医療 •  広告 / マーケティング •  モバイルサービス •  ゲーム •  メディア •  ソーシャルネットワーク •  課金 / 支払い •  セキュリティ •  クラウドサービス大量データの保存が必要な場合はもちろん、非常に高い可用性や耐障害性を求めて弊社製品を使って頂いております！ 49

運用が楽になる分散データベース Riak

運用が楽になる分散データベース Riak

Recomendados

Mais conteúdo relacionado

Mais procurados

Mais procurados(20)

Similar a 運用が楽になる分散データベース Riak

Similar a 運用が楽になる分散データベース Riak(20)

Último

Último(12)

運用が楽になる分散データベース Riak