今日は、インフラ屋という人が自宅でどういうことをして遊んでいるかをご紹介したいと思います。
最近はなんやかんやとAWSやESXiをいじることが多くなり、ああ、やっぱりP2Vって素敵だなぁとか物思いにふける日々。まあ手元のマシンにもVirtualPCやらDockerやらVagrantやらでそれなりに素敵なことにはなっているのだけれど、やはり仮想基盤、と単発型の仮想ホストでは何かと利便性に違いがある。
沙耶です。こんなことをやり始めた動機はただ、メモリが安かった。それだけの理由です。
つまり何が言いたいかというと、おうちにも仮想基盤がほしい(飛躍論理)。
必要性とかそんなものはともかくとして、ほしい。ていうかいろいろいじって遊びたい。
よし、計画を立てよう。
去年だかおととしだかに適当に自室の古いマシンなどは片っ端から捨てたため、現状手もとにあるマシン数は少ない。
・hp ML110 G4(CentOS5)
・hp ML100 G6(Windows Server 2003)
・hp ML115(無職)
見事にhpの安物ばかりそろっている。とりあえずRAIDカードは確かまともなのが1枚くらいどれかに刺さっていたはずで、そうじゃなくてもオンボードのSATA RAIDが効く。
現状としてはWindows Server 2003が一台内部向けサービスをやってるのと、CentOS5が外部向けサービスを”やっていた”。AWSにmunou-blogを移設して一年あまり、まあエクスポートインポートでMT->WPでのデータがごちゃごちゃずれてたりはするけど、まあそれはAWSのせいじゃなくてMTとWPの問題なのでもう知らない。
つまり、直す気がない。ならもうこのままでいいわけで。
もう一個のjpドメインも持っていき、メールサービスもAWS上に移設してしまえば、少なくともローカル側のDMZが要らなくなるわけだ。
つまりマズ無職が二台できる。
仮想化シフトしよう。これはもうやるっきゃねぇ。というかWindowsServerの面倒見るの飽きてきたし。かといってServer Coreに行くかっつーとなぁ。CUIだけでやるならLinuxでいいんだよ。そもそもWindows SeverにやらせてるのってFileServer(SMB)とメディアサーバ(DLNA)とActiveDirectoryだけ。ADはそもそも半分捨ててるし。
で、下調べ。samba4でADのフルサポート来てた! これで勝つる!
Linuxで移動デスクトップできる!(と思いたい)
じゃあもうAD捨ててSamba4で組もう。ルータも仮想OS載せて仮想サーバにやらせよう。
踏み台もそいつがやればいいしwww
Web+DBはまあ自宅内に要るのかって言われると困るけどまあ作るとして(ぉぃ。
そしてすべてSSOでSamba4に振り向けてNFS/NIS+あたりと連動、って感じかなぁ。
Samba4がどこまでやれるか次第だけども、ま、なるべく認証は固めたいよね。
G6はXeon X3450載るから4Core 8ThreadでVTもいける。なのでコイツが基盤の中心。
予備機もG6の中古適当に買ってくればいいし。余るのはG4とML115で、こいつらにSANをやらせよう。SANは最終的にはReadyNASとかのiSCSI対応機に移行したいけど、10GbEを睨むとLinuxBOXって手も捨てがたいは捨てがたい。まあそれはその時に考えるべ。
というわけで、まずしこしこと最終目標系を描いていく。
Frontサービス用のネットワーク、そしてDBなどのバックエンドサービス用のネットワーク、最後にSAN、ストレージエリアネットワークだ。SANはまあ基本沙耶さんは貧乏人なのでFCとかInfinibandとか使いたくても使えないので、GbEを最初は使っておいて、そのうち安くなったら10GbEに移行しようと思う。10GbESwitch安くなってきてるからね。
お金はそんなにないので、ネットワークは同一Switchにぶち込んでVLANでも切ればよい。
セグメント間通信用のルータは、VyOSあたりで仮想基盤上に構築する。たくさん作るのもアレなので、マルチホームルーティングをやっておき、単一のルータOSで複数のルータとして機能していただく。どうせたいしてやることはないし、Front-Home間とFront-Backend間の二点だけ。NIC三枚。ルーティングテーブル交換すら要らないレベルだけど、一応RIPあたりを流すか。
#流さなくてもHomeのルータにStaticを入れれば済むレベル。Backendはすべて出先が固定されているのでGWだけで済む。
なお、HomeからSANへの直接接続はない。SANからNASを切り出す場合に備えて、SANにHomeに加わるためのNICは与えるかもしれないが、基本SANは仮想基盤向けのサービスなので固定的だ。ルーティングも要らない。すべてスイッチ一つでiSCSIターゲットへのパスを形成できる。
別にSANなんかなくてもいいのだけど、やっぱりそこはアレだ、資本の集中投入ということだ。SANにぶち込みさえすればいくらでも容量が増やしていけるし、仮想基盤間のHAもやりやすい。
また、HAやinterconnectやVMでいうvmotionなどのために別口で裏道用ネットワークも仮想基盤間で組む。まあこんなのは直結クロスでも構わない話ではあるが。
Front-Backend間はLAして、基盤とSAN間もLAさせる。SANからSwitchへは2×2のトランクを組もう。これで基盤からは等しく2パスのハズ。4×1でもいいのかもしれないけど、将来的にスイッチの冗長化をするとき用にパスを分離しておく。
仮想基盤には無料で使えるXen Server一択でしょうね。KVMとかは完全仮想化のみなので、ディスクI/O回りがちょっとアレな気がするので、その辺きちんとやってそうなXen行きましょう。
というかハイパーバイザを堅牢化するのがめんどくさいだけですが。
あ、ちなみにXen Serverはタダですが制御インターフェースは有料なのでそこらのSIerにXenならタダだろ!とか無理言わないでね。サポートもないし。こういうのは趣味でやるからタダでいいんです。仕事でやるなら金払え、です。
よく勘違いされるのですが、OSSはタダだからコストかかんないだろ、って考え方ですが、基本OSSの方がコストがかかることも多いのです。商用では用意されない”機能としてはあるけどコマンド叩きまくらないといけない”とかのリテラシや運用にかかわる部分をきちんとワンボタンワンクリックで進むようにしようとか、コマンド一個で済まそうとかきちんと整備していくとその辺の商用買った方が全然安かったりしますし、そういう部分の継続的保守とか考え始めたらとてもめんどくさい上にバグ入りになったりします。
OSSだから安い、なんてのは幻想です幻想。まあ商用だから安心かというとそうでもないですが。
それはともかく。
仮想基盤はXenで。ML110 G6が一番新しいので、コレを基盤にしましょう。コアにXeon X3450載るみたいだから買ってこないとね。HAするならもう一台ほしいとこ。ML115も少し世代古いし、G6+X3450買ってくればいいかな。4GB*4で16GBまで載るし、自宅内用ならまあいいでしょう。
ML110 G4はじゃあアレですね、SANに仕立て上げることにしますか。openfilterでいいですね。
最終的にはML115もSANにしてクラスタ化するか、ReadyNASとか適当に買ってきて入れ替わればいいけど、当面はそんな感じで行きましょう。こっちもXen上に組めばML115とのすげ変わりもしやすいかな? ま、ディスクが足りないからそっちはそのときに。とりあえず仮想基盤つくって上に載せておいて、いつでも動かせるようにしておく。スタンバイ機ができたらDRBDでコピればいいし、HA起こして同じストレージをFront/Backendに見せる、と。別にFront/Backendの基盤上にopenfilter作ってもいいんだろうけど、ここは一つ物理的に切ってみよう。
なんか一緒くたにするとI/Oすごいことになりそうな気がするし。
こうなると仮想基盤向けにGbEがいっぱいいるかな。トランクも考えるとオンボードをインターコネクトあたりに使って、8本くらいはNICが要るな。4Port x2でGbEカード買うかな。IntelのServerAdapterが安くなってた気がする。あとはメモリを一杯までと、Xeon買ってこないと。
G6追加したらさらにx2追加とメモリ追加でお代わり。あとGbEの8ポートくらいでLA組みまくれるスイッチ一つ。フロントとバックエンドの制御すんのにGbEの24ポートくらいのVLAN切りまくってLA切れるスイッチが一つ。ローカルストレージは適当でいい。多分今のが余ってくるからそれぶち込む。
SPF+とかめんどくさいから要らない。いやめんどくさくはないしカードも安いんだけどねwww
ファイバがめんどくさい。全部RJ45でいいよ。
SANにする子にはちょっとディスクいっぱい買ってあげないといけないかな。とりあえず3TB*4とかでいいかなぁ。まあやるときに一番コスパいいトコで突っ込もうかね。外付けのeSATA RaidBOXとかつなげば拡張できるからそれはそれでいいとしても、安価なその手のが信用ならないセンチュリーばっかりなので萎える。まあそのうちなんか考えよう。本当は内部と外部のRAID跨げるといいんだけど、そのへん真面目にやるとSASになっちゃうからSATAで安く済ませたい的欲求から外れてしまう。
SANには同様にGbE四本だけど、こっちは別に4Portである必要もないので適当にGbEのNIC四枚。と思ったがそんなにPCI-eレーンが無いので、こちらも2Portx2か4Portx1とかにならざるを得ない。冗長性とかいうなら2Portx2なんだけどね。
よし。計画的には大体大枠が決まった感じです。やることをピックアップして、順番にこなしましょう。
とりあえず現行環境のメールサービスをAWSに移設。Security Groupはもともとテスト用で作りかけてたので空いてるし、postfix立ててamavisd-new通してclamdとspamassassinを通してpostfixに戻す定番のスタイル。
全部yumで突っ込める。これでG4空いたから、マズはXen+openfilterですね。
Celeron D 352だからVT-x/VT-dが無いのか。これも換装か…VT-x持ってるML115の方で作るかな…騒音次第だけど。同時並行で静音化もしていかないとうるさくてかなわないことになるだろうしね。ML110 G4はXeon 3040でも探してこないとVTないから、今更ながらCore 2 Duo世代を買う羽目になるのね。何気にせろりん除けばCore 2系は初めてだったりするけどw
ディスクの冗長性考えると相変わらずコスト高いなぁ。
なお、Front/BackendのXen上には
・AD PDC+BDC(Linux+Smaba4/Act-Act)
・VyOS Router(Multihome/VRRP/Proxy/LoadBalancer/Act-HotStanby)
・WebServer(Act-Act)
・Database Server(Act-Act/Master-Slave)・Media/File Server(Act-Stanby)
あたりを立てようかと思っているところ。DBとMedia/Fileが2Coreってとこだろなぁ。
さて、あとはどうやってこいつらを鎮まれー鎮まれーってやるかだな!w(一番問題
インフラ屋さんの週末はだいたいこんな感じで過ごしています。
まあ9割の人は何言ってんだコイツ的なアレでしょうけど、インフラ屋さん目指す人はこれくらいは自宅で遊びで作れるようになっておくべき。というかなっておくと就職こまんないよ多分。
ESXiも遊んでおくといいけどさ。