SlideShare a Scribd company logo
1 of 46
Download to read offline
株式会社サイバーエージェント

1

自作サーバ運用
アメーバピグ編
〜それからどうなった〜

株式会社サイバーエージェント 桑野 章弘
14年3月7日金曜日
株式会社サイバーエージェント

自己紹介

14年3月7日金曜日

2
株式会社サイバーエージェント

自己紹介
n桑野 章弘
n株式会社サイバーエージェント
nサーバサイドエンジニア
自社サービスのサーバ設計・構築・運用など

n好きな食べ物
カレー(社内報に記事書いた)

14年3月7日金曜日

3
株式会社サイバーエージェント

自作サーバ、、、

14年3月7日金曜日

4
株式会社サイバーエージェント

3回お酒飲めるくらい喋れる

14年3月7日金曜日

5
株式会社サイバーエージェント

あ、7分しかないので
さっさとやります。

14年3月7日金曜日

6
株式会社サイバーエージェント

出来る限りあの頃の
テイストで。

14年3月7日金曜日

7
株式会社サイバーエージェント

アジェンダ
n自作サーバの導入状況
nアメーバピグについて
nサーバについて
nメリット・デメリット
nまとめ

14年3月7日金曜日

8
株式会社サイバーエージェント

自作サーバの導入状況

14年3月7日金曜日

9
株式会社サイバーエージェント

の前に、、、導入の目的
nコストダウン
nDCの使用効率の向上(消費電力の削減、ラック集積度向
上)
nHW情報収集

14年3月7日金曜日

10
株式会社サイバーエージェント

アメーバピグについて

14年3月7日金曜日

11
株式会社サイバーエージェント

アメーバピグとは
nAmebaで提供しているアバターサービス
n2009年2月  オープン。今年で5周年。
n2011年11月には  ユーザ数1,000万人突破

14年3月7日金曜日

12
株式会社サイバーエージェント

14年3月7日金曜日

13
株式会社サイバーエージェント

14年3月7日金曜日

14
株式会社サイバーエージェント

自作サーバについて

14年3月7日金曜日

15
株式会社サイバーエージェント

サーバについて
nサーバ仕様
nサーバスペック

14年3月7日金曜日

16
株式会社サイバーエージェント

17

サーバ仕様
nラッキング
16台1組(6U)

14年3月7日金曜日

サーバ8台を前後から
縦置き
合計16台を1セット
株式会社サイバーエージェント

サーバ仕様
nラッキング
1ラック最大96台(16台  *  6セット)搭載可能
もちろん消費電力の兼ね合いがあります

14年3月7日金曜日

18
株式会社サイバーエージェント

サーバスペック
n Core2Quadモデル
Web、APサーバ等のロードバランサ等で負荷分散される用途

n Atomモデル
CPUを使わない用途:主にキャッシュサーバ用途

14年3月7日金曜日

19
株式会社サイバーエージェント

20

アメーバピグでの使い分け例
nAtomモデル
分散KVS
分散KeyValueマスタ
定期的にデータを再分
配する
ベンダーサーバ

MySQL
MySQL
14年3月7日金曜日

分散KeyValueノード
自作サーバ

マスタデータの入って
いるDB
ベンダーサーバ

MySQL
株式会社サイバーエージェント

アメーバピグでの使い分け例
nAtomモデル
分散KVS

✕
14年3月7日金曜日

✕
MySQL
MySQL

MySQL

アメーバピグのバック
エンドは
MySQL(+ioDrive)
のみに。

21
株式会社サイバーエージェント

自作サーバの種類と台数
nストレージサーバ
低コストで安定したストレージサーバ

n高密度サーバ
スケールアウト前提のサーバ
AtomモデルとCore2Quadモデルを用途毎に使い分け

14年3月7日金曜日

22
株式会社サイバーエージェント

自作サーバの例[ストレージサーバ]

14年3月7日金曜日

23
無いです
14年3月7日金曜日
株式会社サイバーエージェント

自作サーバの例[高密度サーバ]

14年3月7日金曜日

25
株式会社サイバーエージェント

自作サーバの例[高密度サーバ]

14年3月7日金曜日

26
だから
無いです
14年3月7日金曜日
株式会社サイバーエージェント

自作サーバ台数
n0台前後
2014/2現在

->と、言うわけなので、今回は何故自作サーバは減っていった
のかを。

14年3月7日金曜日

28
株式会社サイバーエージェント

メリット・デメリット

14年3月7日金曜日

29
株式会社サイバーエージェント

メリット・デメリット
が、どうかわったのよ?

14年3月7日金曜日

30
株式会社サイバーエージェント

メリット・デメリット
nコストパフォーマンス
n電源容量
n安定性
n機材の確保
nハードウェアのノウハウ

14年3月7日金曜日

31
株式会社サイバーエージェント

メリット・デメリット
nコストパフォーマンス
徐々に価格比性能面でメリットが出なくなってきた。
-自作サーバ>>>1UのIAサーバ から、
-1UのIAサーバ>>自作サーバ くらいに。

CPUの差
メモリの差

14年3月7日金曜日

32
株式会社サイバーエージェント

メリット・デメリット
n消費電力
これに関しては今でも多少メリットあると思うが、最近の1UのIAサーバ
はかなり省電力なので、性能比で考えるとかなりメリットが減衰している

14年3月7日金曜日

33
株式会社サイバーエージェント

メリット・デメリット
n安定性
言うほど悪くな”かった”
稼働3年過ぎたくらいから故障率が上がってきた
HW障害に対する人的コストが高い。
-体制改善の余地はあったかも、とは思っている

14年3月7日金曜日

34
株式会社サイバーエージェント

メリット・デメリット
n機材の確保
コンシューマユースの機材を集め続けるのは至難の業
価格のメリット出づらくなる
在庫管理大変

14年3月7日金曜日

35
株式会社サイバーエージェント

メリット・デメリット
nハードウェアのノウハウ
全自作というサーバはほぼ亡くなったが、HWの一部変更など行った
り、物品購入するパスは自作サーバをやった事で構築できた所がある
-サーバの一部SSDにしましょ
-メモリ交換しましょ
-DAS自作
-SAS  Expander

14年3月7日金曜日

36
株式会社サイバーエージェント

ともかく、と言う訳で

14年3月7日金曜日

37
株式会社サイバーエージェント

2013年07月30日(火)

14年3月7日金曜日

38
株式会社サイバーエージェント

14年3月7日金曜日

39
株式会社サイバーエージェント

黙祷

14年3月7日金曜日

40
株式会社サイバーエージェント

そして

14年3月7日金曜日

41
株式会社サイバーエージェント

売られる

14年3月7日金曜日

42
株式会社サイバーエージェント

まとめ

14年3月7日金曜日

43
株式会社サイバーエージェント

44

まとめ
n自作サーバは2008〜2009年のタイミングが神とも言えるタ
イミングだったと今でも思っていて、あの時にやれて本当に嬉し
い。
nメリットとしてあげられるものが少なくなってしまった
n自作サーバを運用したことは、ハードウェアのノウハウや、DC
運用のノウハウとして非常に良い経験だった。
nただNUCとか面白そうですよね

14年3月7日金曜日
株式会社サイバーエージェント

まとめ
n自作サーバは売られる(まさかそのままとは)
nデータ削除はしっかりと!(してましたよ!)
nテプラは剥がすよね?とか聞きましょう(:.;゚;Д;゚;.:)ハァハァ

14年3月7日金曜日

45
株式会社サイバーエージェント

ご清聴ありがとうございました。

14年3月7日金曜日

46

More Related Content

Viewers also liked

MongoDBの可能性の話
MongoDBの可能性の話MongoDBの可能性の話
MongoDBの可能性の話Akihiro Kuwano
 
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴Akihiro Kuwano
 
AmebaのMongoDB活用事例
AmebaのMongoDB活用事例AmebaのMongoDB活用事例
AmebaのMongoDB活用事例Akihiro Kuwano
 
WiredTigerストレージエンジン楽しい
WiredTigerストレージエンジン楽しいWiredTigerストレージエンジン楽しい
WiredTigerストレージエンジン楽しいAkihiro Kuwano
 
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。Akihiro Kuwano
 
MongoDBのアレをアレする
MongoDBのアレをアレするMongoDBのアレをアレする
MongoDBのアレをアレするAkihiro Kuwano
 
18 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 2011021718 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 20110217Akihiro Kuwano
 
泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい) 泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい) Akihiro Kuwano
 
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介Akihiro Kuwano
 
CyberAgentにおけるMongoDB
CyberAgentにおけるMongoDBCyberAgentにおけるMongoDB
CyberAgentにおけるMongoDBAkihiro Kuwano
 
ビックデータ最適解とAWSにおける新しい武器
ビックデータ最適解とAWSにおける新しい武器ビックデータ最適解とAWSにおける新しい武器
ビックデータ最適解とAWSにおける新しい武器Akihiro Kuwano
 
実環境にTerraform導入したら驚いた
実環境にTerraform導入したら驚いた実環境にTerraform導入したら驚いた
実環境にTerraform導入したら驚いたAkihiro Kuwano
 
インフラエンジニアってなんでしたっけ(仮)
インフラエンジニアってなんでしたっけ(仮)インフラエンジニアってなんでしたっけ(仮)
インフラエンジニアってなんでしたっけ(仮)Akihiro Kuwano
 
学生時代に作った大学内掲示板閲覧システム
学生時代に作った大学内掲示板閲覧システム学生時代に作った大学内掲示板閲覧システム
学生時代に作った大学内掲示板閲覧システムNAKAOKU Takahiro
 
170106 自己prセミナースライド(杉本)
170106 自己prセミナースライド(杉本)170106 自己prセミナースライド(杉本)
170106 自己prセミナースライド(杉本)Seminer Goodfind
 
日本UNIXユーザ会50か年計画(?)
日本UNIXユーザ会50か年計画(?)日本UNIXユーザ会50か年計画(?)
日本UNIXユーザ会50か年計画(?)法林浩之
 
Google先生によるウィルス配布の件(正確にはアドウェアかな…)
Google先生によるウィルス配布の件(正確にはアドウェアかな…)Google先生によるウィルス配布の件(正確にはアドウェアかな…)
Google先生によるウィルス配布の件(正確にはアドウェアかな…)Izumi Akiyama
 

Viewers also liked (20)

MongoDBの可能性の話
MongoDBの可能性の話MongoDBの可能性の話
MongoDBの可能性の話
 
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
NVMFS 使ってみたとか 言っちゃって マジカジュアルな奴
 
Chef環境の闇
Chef環境の闇Chef環境の闇
Chef環境の闇
 
AmebaのMongoDB活用事例
AmebaのMongoDB活用事例AmebaのMongoDB活用事例
AmebaのMongoDB活用事例
 
WiredTigerストレージエンジン楽しい
WiredTigerストレージエンジン楽しいWiredTigerストレージエンジン楽しい
WiredTigerストレージエンジン楽しい
 
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
オンプレエンジニアがクラウドエンジニアを夢見て。じっと手を見る。
 
MongoDBのアレをアレする
MongoDBのアレをアレするMongoDBのアレをアレする
MongoDBのアレをアレする
 
18 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 2011021718 a-6 ameba pigg backend practice 20110217
18 a-6 ameba pigg backend practice 20110217
 
泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい) 泥臭い運用から、プログラマブルインフラ構築(に行きたい)
泥臭い運用から、プログラマブルインフラ構築(に行きたい)
 
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
qpstudy 〜初心者にやさしいインフラ勉強会〜 の紹介
 
CyberAgentにおけるMongoDB
CyberAgentにおけるMongoDBCyberAgentにおけるMongoDB
CyberAgentにおけるMongoDB
 
ビックデータ最適解とAWSにおける新しい武器
ビックデータ最適解とAWSにおける新しい武器ビックデータ最適解とAWSにおける新しい武器
ビックデータ最適解とAWSにおける新しい武器
 
実環境にTerraform導入したら驚いた
実環境にTerraform導入したら驚いた実環境にTerraform導入したら驚いた
実環境にTerraform導入したら驚いた
 
インフラエンジニアってなんでしたっけ(仮)
インフラエンジニアってなんでしたっけ(仮)インフラエンジニアってなんでしたっけ(仮)
インフラエンジニアってなんでしたっけ(仮)
 
いつやるの?Git入門
いつやるの?Git入門いつやるの?Git入門
いつやるの?Git入門
 
学生時代に作った大学内掲示板閲覧システム
学生時代に作った大学内掲示板閲覧システム学生時代に作った大学内掲示板閲覧システム
学生時代に作った大学内掲示板閲覧システム
 
170106 自己prセミナースライド(杉本)
170106 自己prセミナースライド(杉本)170106 自己prセミナースライド(杉本)
170106 自己prセミナースライド(杉本)
 
Unix
UnixUnix
Unix
 
日本UNIXユーザ会50か年計画(?)
日本UNIXユーザ会50か年計画(?)日本UNIXユーザ会50か年計画(?)
日本UNIXユーザ会50か年計画(?)
 
Google先生によるウィルス配布の件(正確にはアドウェアかな…)
Google先生によるウィルス配布の件(正確にはアドウェアかな…)Google先生によるウィルス配布の件(正確にはアドウェアかな…)
Google先生によるウィルス配布の件(正確にはアドウェアかな…)
 

More from Akihiro Kuwano

今日はMongoDBの話はしない
今日はMongoDBの話はしない今日はMongoDBの話はしない
今日はMongoDBの話はしないAkihiro Kuwano
 
銀河レベルのLT(とは)
銀河レベルのLT(とは)銀河レベルのLT(とは)
銀河レベルのLT(とは)Akihiro Kuwano
 
AWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティスAWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティスAkihiro Kuwano
 
MongoDBのはじめての運用テキスト
MongoDBのはじめての運用テキストMongoDBのはじめての運用テキスト
MongoDBのはじめての運用テキストAkihiro Kuwano
 
[大図解]ピグライフはこう動いている
[大図解]ピグライフはこう動いている[大図解]ピグライフはこう動いている
[大図解]ピグライフはこう動いているAkihiro Kuwano
 
DevOpsのはじめの一歩 〜監視の変遷〜
DevOpsのはじめの一歩 〜監視の変遷〜DevOpsのはじめの一歩 〜監視の変遷〜
DevOpsのはじめの一歩 〜監視の変遷〜Akihiro Kuwano
 
ザ・ドキュメント~うまくいかないNoSQL~
ザ・ドキュメント~うまくいかないNoSQL~ザ・ドキュメント~うまくいかないNoSQL~
ザ・ドキュメント~うまくいかないNoSQL~Akihiro Kuwano
 
Mon, Muninによる楽々監視生活
Mon, Muninによる楽々監視生活Mon, Muninによる楽々監視生活
Mon, Muninによる楽々監視生活Akihiro Kuwano
 

More from Akihiro Kuwano (11)

今日はMongoDBの話はしない
今日はMongoDBの話はしない今日はMongoDBの話はしない
今日はMongoDBの話はしない
 
銀河レベルのLT(とは)
銀河レベルのLT(とは)銀河レベルのLT(とは)
銀河レベルのLT(とは)
 
AWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティスAWSのログ管理ベストプラクティス
AWSのログ管理ベストプラクティス
 
AWSのNoSQL入門
AWSのNoSQL入門AWSのNoSQL入門
AWSのNoSQL入門
 
MongoDBのはじめての運用テキスト
MongoDBのはじめての運用テキストMongoDBのはじめての運用テキスト
MongoDBのはじめての運用テキスト
 
[大図解]ピグライフはこう動いている
[大図解]ピグライフはこう動いている[大図解]ピグライフはこう動いている
[大図解]ピグライフはこう動いている
 
DevOpsのはじめの一歩 〜監視の変遷〜
DevOpsのはじめの一歩 〜監視の変遷〜DevOpsのはじめの一歩 〜監視の変遷〜
DevOpsのはじめの一歩 〜監視の変遷〜
 
ザ・ドキュメント~うまくいかないNoSQL~
ザ・ドキュメント~うまくいかないNoSQL~ザ・ドキュメント~うまくいかないNoSQL~
ザ・ドキュメント~うまくいかないNoSQL~
 
Fusion io
Fusion ioFusion io
Fusion io
 
IOAについて
IOAについてIOAについて
IOAについて
 
Mon, Muninによる楽々監視生活
Mon, Muninによる楽々監視生活Mon, Muninによる楽々監視生活
Mon, Muninによる楽々監視生活
 

Recently uploaded

Postman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By DanielPostman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By Danieldanielhu54
 
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略Ryo Sasaki
 
UPWARD_share_company_information_20240415.pdf
UPWARD_share_company_information_20240415.pdfUPWARD_share_company_information_20240415.pdf
UPWARD_share_company_information_20240415.pdffurutsuka
 
IoT in the era of generative AI, Thanks IoT ALGYAN.pptx
IoT in the era of generative AI, Thanks IoT ALGYAN.pptxIoT in the era of generative AI, Thanks IoT ALGYAN.pptx
IoT in the era of generative AI, Thanks IoT ALGYAN.pptxAtomu Hidaka
 
PHP-Conference-Odawara-2024-04-000000000
PHP-Conference-Odawara-2024-04-000000000PHP-Conference-Odawara-2024-04-000000000
PHP-Conference-Odawara-2024-04-000000000Shota Ito
 
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。iPride Co., Ltd.
 
スマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システムスマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システムsugiuralab
 
20240412_HCCJP での Windows Server 2025 Active Directory
20240412_HCCJP での Windows Server 2025 Active Directory20240412_HCCJP での Windows Server 2025 Active Directory
20240412_HCCJP での Windows Server 2025 Active Directoryosamut
 
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。
新人研修のまとめ       2024/04/12の勉強会で発表されたものです。新人研修のまとめ       2024/04/12の勉強会で発表されたものです。
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。iPride Co., Ltd.
 

Recently uploaded (9)

Postman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By DanielPostman LT Fukuoka_Quick Prototype_By Daniel
Postman LT Fukuoka_Quick Prototype_By Daniel
 
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
[DevOpsDays Tokyo 2024] 〜デジタルとアナログのはざまに〜 スマートビルディング爆速開発を支える 自動化テスト戦略
 
UPWARD_share_company_information_20240415.pdf
UPWARD_share_company_information_20240415.pdfUPWARD_share_company_information_20240415.pdf
UPWARD_share_company_information_20240415.pdf
 
IoT in the era of generative AI, Thanks IoT ALGYAN.pptx
IoT in the era of generative AI, Thanks IoT ALGYAN.pptxIoT in the era of generative AI, Thanks IoT ALGYAN.pptx
IoT in the era of generative AI, Thanks IoT ALGYAN.pptx
 
PHP-Conference-Odawara-2024-04-000000000
PHP-Conference-Odawara-2024-04-000000000PHP-Conference-Odawara-2024-04-000000000
PHP-Conference-Odawara-2024-04-000000000
 
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
Amazon SES を勉強してみる その12024/04/12の勉強会で発表されたものです。
 
スマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システムスマートフォンを用いた新生児あやし動作の教示システム
スマートフォンを用いた新生児あやし動作の教示システム
 
20240412_HCCJP での Windows Server 2025 Active Directory
20240412_HCCJP での Windows Server 2025 Active Directory20240412_HCCJP での Windows Server 2025 Active Directory
20240412_HCCJP での Windows Server 2025 Active Directory
 
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。
新人研修のまとめ       2024/04/12の勉強会で発表されたものです。新人研修のまとめ       2024/04/12の勉強会で発表されたものです。
新人研修のまとめ 2024/04/12の勉強会で発表されたものです。
 

アメーバピグにおける自作サーバ運用それからどうなった