1. 分散ファイルシステムGfarm上でのHadoopMapReduce 三上俊輔 <shun0102@gmail.com>

2. 自己紹介 筑波大学システム情報工学研究科コンピュータサイエンス専攻M1 HPCS研究室 分散ファイルシステム サイト、twitter http://shun0102.net Twitter: shun0102

3. HDFSの問題点 POSIXに準拠してない 追記以外の再書き込み不可、複数ライターからの書き込み不可 マウントしたい Hdfs-fuse は不安定 マスターが単一障害点 まだ簡単な解決策はない

4. 他のファイルシステムの利用 Gfarm 今日話します GlusterFS 性能評価をとってみました Ceph 負荷をかけると固まる、、、 Lustre, PVFS2 今後調べてみたい

5. Gfarmの特徴 汎用的な分散ファイルシステム サーバーの余ってるローカルファイルシステムを束ねて分散共有ストレージにできる Better NFS メタデータサーバ１台（active-standby可） 多数ファイルシステムノード スケールアウト データアクセスはファイルシステムノードへ直接 HDFSの様にメタデータサーバの処理能力までスケールアウト

6. Gfarmの活用事例 筑波大、産総研、KEK、NICT、KDDI研究所、NTTコミュニケーションズ 商用サポート ベストシステムズ 参考(GfarmWorkshop 2010) http://datafarm.apgrid.org/event/gfarm10/program.html

7. Gfarmの構成 Gfarmメタデータサーバー Gfarmストレージサーバー Gfarmストレージサーバー Gfarmストレージサーバー Client Metadata ops Read or Write Read or Write files files files 仮想的な共有ファイルシステム(Gfarm)

8. HDFSと比較した欠点 ブロック分割しない 単一ファイルへのアクセスがスケールしない 複製作成が非同期 レプリカが一つしかない時間がある

9. 他のファイルシステムの利用法 JNIのlayerを挟むか、マウントしてアクセス マウントの場合はファイルの格納場所がわからない HadoopMapReduce applications File System API HDFS client library FUSE JNI shim layer FUSE client Client library Filesystemservers Filesystemservers HDFS servers

10. マシン性能その１

12. 各ノードが別々の50GBのファイルを書き込む（複製はなし）

13. ローカルに書き込むのでスケールする

15. 各ノードが5GBの別々のファイルを読み込む

17. GlusterFS ローカルファイルシステムを束ねて一つのファイルシステムにできる マスターなし FUSEベース 複製ありなし、ストライピングするしないを選択

18. マシン性能その２

19. GlusterFSvsHDFS 7.4 MB/sec/node 22 MB/sec/node 10.3 MB/sec/node

20. GlusterFSvs HDFS 5.5 MB/sec/node 10.8 MB/sec/node 10.8 MB/sec/node

21. HDFSに負ける理由は？ ローカリティを利用できないから？ FUSEのオーバヘッド？

22. むしろ良い方と思うべき？ FUSEベースでインストールしやすい マスターなし

23. まとめ GfarmはHDFSと同等の性能 GlusterFSは性能では劣るが使いやすい印象 Cephはまだ運用では使えない