Cephで簡易セットアップ用のRPMを作ってみた

ハイエンドストレージ向けシミュレーション!

設計

新しいストレージシステムの導入検討をする前に今使用しているファイルシステムにどんな不満があるのか改めて考え直してみる(数値化)必要が有ります。
容量が決定的に不足しているのであれば後々を考えてスケーラブルに拡張可能なストレージシステムを導入すれば良いし、スループットが遅いと感じているのであればどんな時にどの程度スピードが遅いのか数値で計測できおり、更にはどの程度向上させれば良いのか明確にする必要があります。
先日有る所でデュデュプリケーション機能の要望が有りました。最近はディスク4TB 1本あたり2万円前後で購入可能です。しかも分散ファイルシステムやクラウドが一般に使われ始めてからは劇的にハードウェア価格が安くなっています。このため一昔前のようにファイルの重複にそんなに神経を向ける必要が有るのか?疑問です。
このようにほんとに必要な機能、不要だけども興味があるから必要と思っている機能などを論理的に整理し、つぶさに世の中のプロダクトに目を凝らしていれば十分な性能を発揮する物は高額なコストをかけなくても見つかるです。
もちろんAs, Isの精神で他者に対し必要以上な負担を強いないようにすることも大切です。

導入

今回はカリフォルニア大学サンタクルーズ校で博士論文に発表されたSage Weil氏のペタバイト級のファイルシステムに対応する[ Cepf ]をlinux kernel 3.6.6上のXFSファイルシステムを使って構築しています。
この環境はあくまでもシミュレーションであり、記述された内容が何れかの事象を来した場合や、障害が発生した時点において損害が発生してもこれらを保証する物ではないことを記述しておきます。
Linux kernel ver3.6.6はこの文章を記述している今(2012/12/1)カレントのバージョンであり、メニーコアのCPUプロセスを無駄にすることの少ない非常に優れたファイルシステムの構築を助けてくれます。ビッグカーネルロックを排除したこのkernelはCPUの並列度を飛躍的に高めてくれ、ローカールディスクに対するRead / write性能の簡易テストをdd コマンドでテストした結果は、RedHatEL v6.2などで採用の2.6代のkernelと比較して2倍以上のスループットを記録しました。
Cephの性能だけではなく、ハードウェアやLinuxの基本性能を高めた上でプロダクトのシミュレーションを実行することが公平な判断だと思われるため次章では我々が吟味するハードウェア上で実行した性能値を公開していきたいと思います。ご意見をお待ちしています。

設定

インストールをするために面倒な設定やらあれこれコマンドを叩く前に誰でも容易にインストールと簡易設定がインストール時に施されていることが理想です。計算機1台でもCeph環境を堪能できる今回作成したrpmはCephのドキュメントに有るように複数台のノードを用意したテストも実施しますが、1台のノードでも立派に分散ファイルシステムは機能することで分散ファイルシステムの敷居を下げたいと考えた次第です。(もちろんRAID Controllerなどのモノリシックなハードウェアは使用していない)

テスト

ハードウェアコンパチビリティ・リスト

機器の選定には以下に記す項目が最低限必要とされる条件です。

  1. RAID
    • (6Gbps)LSI Megaraid SAS 9260-8i
    • (6Gbps)LSI Megaradi SAS 9271-8i
    • (12Gbps)MegaRAID SAS 9341-8i
    • (3Gbps)Areca ARC-1680LP
    • (6Gbps)Areca ARC-1880LP
    • (6Gbps)Areca ARC-1882LP
    • (12Gbps)Areca ARC-1883LP
  2. LAN(1GbE)
    • Intel 82558
    • Filesystem
    • Filesystem
    • Filesystem
  3. LAN(10GbE)
    • Filesystem
    • Filesystem
    • Filesystem
    • Filesystem
  4. Motherboard
    • Filesystem
    • Filesystem
    • Filesystem
    • Filesystem
  5. Linux
    • Filesystem
    • Filesystem
    • Filesystem
    • Filesystem
  6. Filesystem
    • Filesystem
    • Filesystem
    • Filesystem
    • Filesystem
100TBシミュレーション

To The Top