SlideShare a Scribd company logo
1 of 46
Download to read offline
株式会社サイバーエージェント

1

自作サーバ運用
アメーバピグ編
〜それからどうなった〜

株式会社サイバーエージェント 桑野 章弘
14年3月7日金曜日
株式会社サイバーエージェント

自己紹介

14年3月7日金曜日

2
株式会社サイバーエージェント

自己紹介
n桑野 章弘
n株式会社サイバーエージェント
nサーバサイドエンジニア
自社サービスのサーバ設計・構築・運用など

n好きな食べ物
カレー(社内報に記事書いた)

14年3月7日金曜日

3
株式会社サイバーエージェント

自作サーバ、、、

14年3月7日金曜日

4
株式会社サイバーエージェント

3回お酒飲めるくらい喋れる

14年3月7日金曜日

5
株式会社サイバーエージェント

あ、7分しかないので
さっさとやります。

14年3月7日金曜日

6
株式会社サイバーエージェント

出来る限りあの頃の
テイストで。

14年3月7日金曜日

7
株式会社サイバーエージェント

アジェンダ
n自作サーバの導入状況
nアメーバピグについて
nサーバについて
nメリット・デメリット
nまとめ

14年3月7日金曜日

8
株式会社サイバーエージェント

自作サーバの導入状況

14年3月7日金曜日

9
株式会社サイバーエージェント

の前に、、、導入の目的
nコストダウン
nDCの使用効率の向上(消費電力の削減、ラック集積度向
上)
nHW情報収集

14年3月7日金曜日

10
株式会社サイバーエージェント

アメーバピグについて

14年3月7日金曜日

11
株式会社サイバーエージェント

アメーバピグとは
nAmebaで提供しているアバターサービス
n2009年2月  オープン。今年で5周年。
n2011年11月には  ユーザ数1,000万人突破

14年3月7日金曜日

12
株式会社サイバーエージェント

14年3月7日金曜日

13
株式会社サイバーエージェント

14年3月7日金曜日

14
株式会社サイバーエージェント

自作サーバについて

14年3月7日金曜日

15
株式会社サイバーエージェント

サーバについて
nサーバ仕様
nサーバスペック

14年3月7日金曜日

16
株式会社サイバーエージェント

17

サーバ仕様
nラッキング
16台1組(6U)

14年3月7日金曜日

サーバ8台を前後から
縦置き
合計16台を1セット
株式会社サイバーエージェント

サーバ仕様
nラッキング
1ラック最大96台(16台  *  6セット)搭載可能
もちろん消費電力の兼ね合いがあります

14年3月7日金曜日

18
株式会社サイバーエージェント

サーバスペック
n Core2Quadモデル
Web、APサーバ等のロードバランサ等で負荷分散される用途

n Atomモデル
CPUを使わない用途:主にキャッシュサーバ用途

14年3月7日金曜日

19
株式会社サイバーエージェント

20

アメーバピグでの使い分け例
nAtomモデル
分散KVS
分散KeyValueマスタ
定期的にデータを再分
配する
ベンダーサーバ

MySQL
MySQL
14年3月7日金曜日

分散KeyValueノード
自作サーバ

マスタデータの入って
いるDB
ベンダーサーバ

MySQL
株式会社サイバーエージェント

アメーバピグでの使い分け例
nAtomモデル
分散KVS

✕
14年3月7日金曜日

✕
MySQL
MySQL

MySQL

アメーバピグのバック
エンドは
MySQL(+ioDrive)
のみに。

21
株式会社サイバーエージェント

自作サーバの種類と台数
nストレージサーバ
低コストで安定したストレージサーバ

n高密度サーバ
スケールアウト前提のサーバ
AtomモデルとCore2Quadモデルを用途毎に使い分け

14年3月7日金曜日

22
株式会社サイバーエージェント

自作サーバの例[ストレージサーバ]

14年3月7日金曜日

23
無いです
14年3月7日金曜日
株式会社サイバーエージェント

自作サーバの例[高密度サーバ]

14年3月7日金曜日

25
株式会社サイバーエージェント

自作サーバの例[高密度サーバ]

14年3月7日金曜日

26
だから
無いです
14年3月7日金曜日
株式会社サイバーエージェント

自作サーバ台数
n0台前後
2014/2現在

->と、言うわけなので、今回は何故自作サーバは減っていった
のかを。

14年3月7日金曜日

28
株式会社サイバーエージェント

メリット・デメリット

14年3月7日金曜日

29
株式会社サイバーエージェント

メリット・デメリット
が、どうかわったのよ?

14年3月7日金曜日

30
株式会社サイバーエージェント

メリット・デメリット
nコストパフォーマンス
n電源容量
n安定性
n機材の確保
nハードウェアのノウハウ

14年3月7日金曜日

31
株式会社サイバーエージェント

メリット・デメリット
nコストパフォーマンス
徐々に価格比性能面でメリットが出なくなってきた。
-自作サーバ>>>1UのIAサーバ から、
-1UのIAサーバ>>自作サーバ くらいに。

CPUの差
メモリの差

14年3月7日金曜日

32
株式会社サイバーエージェント

メリット・デメリット
n消費電力
これに関しては今でも多少メリットあると思うが、最近の1UのIAサーバ
はかなり省電力なので、性能比で考えるとかなりメリットが減衰している

14年3月7日金曜日

33
株式会社サイバーエージェント

メリット・デメリット
n安定性
言うほど悪くな”かった”
稼働3年過ぎたくらいから故障率が上がってきた
HW障害に対する人的コストが高い。
-体制改善の余地はあったかも、とは思っている

14年3月7日金曜日

34
株式会社サイバーエージェント

メリット・デメリット
n機材の確保
コンシューマユースの機材を集め続けるのは至難の業
価格のメリット出づらくなる
在庫管理大変

14年3月7日金曜日

35
株式会社サイバーエージェント

メリット・デメリット
nハードウェアのノウハウ
全自作というサーバはほぼ亡くなったが、HWの一部変更など行った
り、物品購入するパスは自作サーバをやった事で構築できた所がある
-サーバの一部SSDにしましょ
-メモリ交換しましょ
-DAS自作
-SAS  Expander

14年3月7日金曜日

36
株式会社サイバーエージェント

ともかく、と言う訳で

14年3月7日金曜日

37
株式会社サイバーエージェント

2013年07月30日(火)

14年3月7日金曜日

38
株式会社サイバーエージェント

14年3月7日金曜日

39
株式会社サイバーエージェント

黙祷

14年3月7日金曜日

40
株式会社サイバーエージェント

そして

14年3月7日金曜日

41
株式会社サイバーエージェント

売られる

14年3月7日金曜日

42
株式会社サイバーエージェント

まとめ

14年3月7日金曜日

43
株式会社サイバーエージェント

44

まとめ
n自作サーバは2008〜2009年のタイミングが神とも言えるタ
イミングだったと今でも思っていて、あの時にやれて本当に嬉し
い。
nメリットとしてあげられるものが少なくなってしまった
n自作サーバを運用したことは、ハードウェアのノウハウや、DC
運用のノウハウとして非常に良い経験だった。
nただNUCとか面白そうですよね

14年3月7日金曜日
株式会社サイバーエージェント

まとめ
n自作サーバは売られる(まさかそのままとは)
nデータ削除はしっかりと!(してましたよ!)
nテプラは剥がすよね?とか聞きましょう(:.;゚;Д;゚;.:)ハァハァ

14年3月7日金曜日

45
株式会社サイバーエージェント

ご清聴ありがとうございました。

14年3月7日金曜日

46

More Related Content

Viewers also liked

AmebaのMongoDB活用事例
AmebaのMongoDB活用事例AmebaのMongoDB活用事例
AmebaのMongoDB活用事例
Akihiro Kuwano
 
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
Akihiro Kuwano
 
18 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 2011021718 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 20110217
Akihiro Kuwano
 
泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい) 泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい)
Akihiro Kuwano
 
CyberAgentにおけるMongoDB
CyberAgentにおけるMongoDBCyberAgentにおけるMongoDB
CyberAgentにおけるMongoDB
Akihiro Kuwano
 

Viewers also liked (20)

MongoDBの可能性の話
MongoDBの可能性の話MongoDBの可能性の話
MongoDBの可能性の話
 
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
 
Chef環境の闇
Chef環境の闇Chef環境の闇
Chef環境の闇
 
AmebaのMongoDB活用事例
AmebaのMongoDB活用事例AmebaのMongoDB活用事例
AmebaのMongoDB活用事例
 
WiredTigerストレージエンジン楽しい
WiredTigerストレージエンジン楽しいWiredTigerストレージエンジン楽しい
WiredTigerストレージエンジン楽しい
 
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
 
MongoDBのアレをアレする
MongoDBのアレをアレするMongoDBのアレをアレする
MongoDBのアレをアレする
 
18 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 2011021718 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 20110217
 
泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい) 泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい)
 
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
 
CyberAgentにおけるMongoDB
CyberAgentにおけるMongoDBCyberAgentにおけるMongoDB
CyberAgentにおけるMongoDB
 
ビックデータ最適解とAWSにおける新しい武器
ビックデータ最適解とAWSにおける新しい武器ビックデータ最適解とAWSにおける新しい武器
ビックデータ最適解とAWSにおける新しい武器
 
実環境にTerraform導入したら驚いた
実環境にTerraform導入したら驚いた実環境にTerraform導入したら驚いた
実環境にTerraform導入したら驚いた
 
インフラエンジニアってなんでしたっけ(仮)
インフラエンジニアってなんでしたっけ(仮)インフラエンジニアってなんでしたっけ(仮)
インフラエンジニアってなんでしたっけ(仮)
 
いつやるの?Git入門
いつやるの?Git入門いつやるの?Git入門
いつやるの?Git入門
 
学生時代に作った大学内掲示板閲覧システム
学生時代に作った大学内掲示板閲覧システム学生時代に作った大学内掲示板閲覧システム
学生時代に作った大学内掲示板閲覧システム
 
170106 自己prセミナースライド(杉本)
170106 自己prセミナースライド(杉本)170106 自己prセミナースライド(杉本)
170106 自己prセミナースライド(杉本)
 
Unix
UnixUnix
Unix
 
日本UNIXユーザ会50か年計画(?)
日本UNIXユーザ会50か年計画(?)日本UNIXユーザ会50か年計画(?)
日本UNIXユーザ会50か年計画(?)
 
Google先生によるウィルス配布の件(正確にはアドウェアかな…)
Google先生によるウィルス配布の件(正確にはアドウェアかな…)Google先生によるウィルス配布の件(正確にはアドウェアかな…)
Google先生によるウィルス配布の件(正確にはアドウェアかな…)
 

More from Akihiro Kuwano (11)

今日はMongoDBの話はしない
今日はMongoDBの話はしない今日はMongoDBの話はしない
今日はMongoDBの話はしない
 
銀河レベルのLT(とは)
銀河レベルのLT(とは)銀河レベルのLT(とは)
銀河レベルのLT(とは)
 
AWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティスAWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティス
 
AWSのNoSQL入門
AWSのNoSQL入門AWSのNoSQL入門
AWSのNoSQL入門
 
MongoDBのはじめての運用テキスト
MongoDBのはじめての運用テキストMongoDBのはじめての運用テキスト
MongoDBのはじめての運用テキスト
 
[大図解]ピグライフはこう動いている
[大図解]ピグライフはこう動いている[大図解]ピグライフはこう動いている
[大図解]ピグライフはこう動いている
 
DevOpsのはじめの一歩 〜監視の変遷〜
DevOpsのはじめの一歩 〜監視の変遷〜DevOpsのはじめの一歩 〜監視の変遷〜
DevOpsのはじめの一歩 〜監視の変遷〜
 
ザ・ドキュメント~うまくいかないNoSQL~
ザ・ドキュメント~うまくいかないNoSQL~ザ・ドキュメント~うまくいかないNoSQL~
ザ・ドキュメント~うまくいかないNoSQL~
 
Fusion io
Fusion ioFusion io
Fusion io
 
IOAについて
IOAについてIOAについて
IOAについて
 
Mon, Muninによる楽々監視生活
Mon, Muninによる楽々監視生活Mon, Muninによる楽々監視生活
Mon, Muninによる楽々監視生活
 

Recently uploaded

Recently uploaded (11)

論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
論文紹介:Selective Structured State-Spaces for Long-Form Video Understanding
 
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
論文紹介: The Surprising Effectiveness of PPO in Cooperative Multi-Agent Games
 
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
知識ゼロの営業マンでもできた!超速で初心者を脱する、悪魔的学習ステップ3選.pptx
 
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その22024/04/26の勉強会で発表されたものです。
 
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアルLoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
LoRaWAN スマート距離検出デバイスDS20L日本語マニュアル
 
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
論文紹介:Video-GroundingDINO: Towards Open-Vocabulary Spatio-Temporal Video Groun...
 
新人研修 後半 2024/04/26の勉強会で発表されたものです。
新人研修 後半        2024/04/26の勉強会で発表されたものです。新人研修 後半        2024/04/26の勉強会で発表されたものです。
新人研修 後半 2024/04/26の勉強会で発表されたものです。
 
Utilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native IntegrationsUtilizing Ballerina for Cloud Native Integrations
Utilizing Ballerina for Cloud Native Integrations
 
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
Amazon SES を勉強してみる その32024/04/26の勉強会で発表されたものです。
 
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
LoRaWANスマート距離検出センサー  DS20L  カタログ  LiDARデバイスLoRaWANスマート距離検出センサー  DS20L  カタログ  LiDARデバイス
LoRaWANスマート距離検出センサー DS20L カタログ LiDARデバイス
 
Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)
Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)
Observabilityは従来型の監視と何が違うのか(キンドリルジャパン社内勉強会:2022年10月27日発表)
 

アメーバピグにおける自作サーバ運用それからどうなった