[an error occurred while processing this directive]
■ 【ぷろじぇくと ぞうさん】 〜E-Bananaサーバ 構築日記〜

目次に戻る
1日目 2日目 3日目 4日目 5日目 6日目 7日目
8日目 9日目 10日目 11日目 12日目 13日目 14日目
15日目 16日目 17日目 18日目 19日目 20日目 21日目
22日目 23日目 24日目 25日目 26日目 27日目 28日目
29日目 30日目 31日目 32日目 33日目 34日目 35日目
36日目 37日目 38日目 39日目 40日目 41日目 42日目
43日目 44日目 45日目 46日目 47日目 48日目 49日目
50日目 51日目 52日目 53日目 54日目 55日目 56日目
57日目 58日目 59日目 60日目 61日目 62日目 63日目
64日目 65日目 66日目 67日目 68日目 69日目 70日目
71日目 72日目 73日目 74日目 75日目 76日目 77日目
78日目 79日目 80日目 81日目 82日目 83日目 84日目
85日目 86日目 87日目 88日目 89日目 90日目 91日目
92日目 93日目 94日目 95日目 96日目 97日目 98日目
99日目 100日目 101日目 102日目 103日目 104日目 105日目
106日目 107日目 108日目 109日目 110日目 111日目 112日目
113日目 114日目 115日目 116日目 117日目 118日目 119日目
120日目 121日目 122日目 123日目 124日目 125日目 126日目
127日目 128日目 129日目 130日目 131日目 132日目 133日目
134日目 135日目 136日目 137日目 138日目 139日目 140日目
141日目 142日目 143日目 144日目 145日目 146日目 147日目
148日目 149日目 150日目 151日目 152日目 153日目 154日目
155日目 156日目 157日目 158日目 159日目 160日目 161日目
162日目 163日目 164日目 165日目 166日目 167日目 168日目
169日目 170日目 171日目 172日目 173日目 174日目 175日目
176日目 177日目 178日目 179日目 180日目 181日目 182日目
183日目 184日目 185日目 186日目 187日目 188日目 189日目
190日目 191日目 192日目 193日目 194日目 195日目 196日目
197日目 198日目 199日目 200日目 201日目 202日目 203日目
204日目 205日目 206日目 207日目 208日目 209日目 210日目
211日目 212日目 213日目 214日目 215日目 216日目 217日目
218日目 219日目 220日目 221日目 222日目 223日目 224日目
225日目 226日目 227日目 228日目 229日目 230日目 231日目
232日目 233日目 234日目 235日目 236日目 237日目 238日目
239日目 240日目 241日目 242日目 243日目 244日目 245日目
246日目 247日目 248日目 249日目 250日目 251日目 252日目
253日目 254日目 255日目 256日目 257日目 258日目 259日目
260日目 261日目 262日目 263日目 264日目 265日目 266日目
267日目 268日目 269日目 270日目 271日目 272日目 273日目
274日目 275日目 276日目 277日目 278日目 279日目 280日目
281日目 282日目 283日目 284日目 285日目 286日目 287日目
288日目 289日目 290日目 291日目 292日目 293日目 294日目
295日目 296日目 297日目 298日目 299日目 300日目 301日目
302日目 303日目 304日目 305日目 306日目 307日目 308日目
309日目 310日目 311日目 312日目 313日目 314日目 315日目
316日目 317日目 318日目 319日目 320日目 321日目 322日目
323日目 324日目 325日目 326日目 327日目 328日目 329日目
330日目 331日目 332日目 333日目 334日目 335日目 336日目
337日目 338日目 339日目 340日目 341日目 342日目 343日目
344日目 345日目 346日目 347日目 348日目 349日目 350日目
351日目 352日目 353日目 354日目 355日目 356日目 357日目
358日目 359日目 360日目 361日目 362日目 363日目 364日目
第66日目:【雪だるま】matdを動かそうとしているのですが・・・

どうも、('A`)です。
今朝はPIEに設置されているスイッチ(CAGE1-BD1)の交換作業をおこないましたが、
その前に2chのサーバ(banana3288:anime3とか入っているサーバかな?)がダウンして
早朝から大わらわでした。。。
(最初ネットワーク機器に障害が起きたかと思いましたが、その後電源系に問題が
ありそうな事が判って・・・ユニット交換なら時間がかかるかなとヒヤヒヤしましたが、
結局電源ケーブルがうまく通電してなかった事が判り、交換したら無事復旧しました。)

で、スイッチの交換作業は日本時間の朝9:00から実施し、10:30に完了しました。
今回はPIEのネットワーク技術者含め4人がかりで
  ・ケーブル引っこ抜き&取りまとめ
  ・旧スイッチのラックからの引き抜き
  ・新スイッチのラックへの取り付け
  ・取りまとめていたケーブルの接続
という作業を実施しました。
(スイッチ自体はだいたい1Uサーバ8台分くらいの大きさです。)

まあ、切り替えの時間としては約1時間30分かかったのですが、今までの
切り替え作業から考えると「少し早く処理できた」方だと思います。
大変な作業だったのは引っこ抜いたケーブルの取りまとめの作業でした。
なんせ100台以上のサーバが繋がっているスイッチなので、新スイッチの
どのポートに刺すかを明確に判る様にしてまとめとかないと、
「新しいスイッチのポートに繋いだはいいけど、通じない」という悲惨な
結果を招くので・・・
その点今回はPIEのスタッフが1週間前から準備していたので、本番では
スムーズに進められたと思います。
皆さんにはサーバに繋がらなくてご不便だったかと思いますが、
この作業でスイッチも新しくなり、ハードがおかしくなってサーバに
繋がらなくなる、という問題発生もかなり低くなりました。
ご協力ありがとうございました。

さて、朝のドタバタもひと段落して、('A`)の方ではbanana3239(c21)と
banana3244(c24)にロードバランサーを構築する作業を進めています。

まず、2台のサーバをクロスケーブルで接続する作業が昼に終わりました。
けどね、、、Brian( ^ω^)は今日のスイッチ切り替え作業で手一杯だったので
他の技術スタッフがクロスケーブルを「自作」し続けてくれましたが、、、
結局うまくいきませんでした。
なので「非常手段」として('A`)が以前構築していたanikiシステムの
テスト環境で使っていたクロスケーブルを引っこ抜いて、繋ぎました。
Brian( ^ω^)は「ケーブルは自作するもんだっ!」って言うけど、他の人にも
ちゃんと作り方教えといてよね・・・orz
合わせてリモートコンソール(KVMって呼んでいます)も利用できる様にしました。

という事で、14:30時点の進捗状況をご報告します。

[完了済]
2) どのサーバにも割り当てられていないIPアドレスを一つ、
206.223.150.* に準備する
  → 206.223.150.14 を用意しました。
3-a) プライベート側ネットワークをはずし、c21 と c24 をクロスケーブルで直結する
  → クロスケーブルで接続しました
     それぞれのサーバの外付けNIC(em1)に以下のIPを割り当てて
     pingが通じる事も確認済です。
      banana3239(c21) em1 : 10.0.0.1
      banana3244(c24) em1 : 10.0.0.2

[作業中]
3-b) matd、ucarp等をしかるべく設定する
  → 作業中
     matdとucarpのインストールは終わりました。
     で、現在は「1) c21 = banana3239 単体で、matd を使って
     ロードバランサを動かす(単体テスト1)」の準備を進めています。

と書いてはみたものの、、、Love Affairスレの765〜773でお知らせを受けた方法で
matdの設定ファイルとかサーバ定義を修正し、いざ動かしてみると・・・
何故かmatdがアップ・ダウンを繰り返します。
(こんな感じ)
banana3239# ln -s /home/matd
banana3239# svstat /var/service/matd
/var/service/matd: up (pid 2040) 0 seconds
banana3239# svstat /var/service/matd
/var/service/matd: up (pid 2042) 0 seconds
banana3239# svstat /var/service/matd
/var/service/matd: up (pid 2044) 1 seconds
banana3239# svstat /var/service/matd
/var/service/matd: up (pid 2049) 0 seconds
banana3239#

うーん、なんでだろう・・・
ちなみに、('A`)の日記の第62日目に書いた方法だと動きました。
本来ならどちらの方法でも動くはずなのですが、どこに違いがあるのか
ちょっと調べています。
あとは、、、今動いているcサーバ(tiger3502-3506の5台)と通信できる様に
Apacheの設定とかを直さないといけないのですが、本番稼働しているサーバ
なので、実際に作業する前に修正点と修正方法をまとめているところです。

という事で、引き続き作業を続けます・・・
それでは、また

[追記 15:20]
えーと、今までの作業でbanana3239(c21)とbanana3244(c24)の状態を報告しますね。
まずはbanana3239(c21)について。
  ・206.223.150.14 のIPを em1に割り当て済(rc.confに記述&オンラインで有効化)
  ・10.0.0.1のIPを lo0に割り当て済(rc.confに記述&オンラインで有効化)
  ・matd & ucarpをインストール済
  ・Apacheのhttpd.confで指定しているListen行を以下の内容に修正済
    Listen 206.223.150.200:80
  ・ipfilterを稼働状態にしている
  ・/etc/ipf.rulesを以下の内容で設定している
    block in log quick from any to any with ipopts
    block in log quick proto tcp from any to any with short
    block in quick proto tcp from any to 206.223.150.14 port = 80
    block out from 127.0.0.0/8 to any group 150
    block out from any to 127.0.0.0/8 group 150
    block out from any to 206.223.150.14/32 group 150
    block in from 127.0.0.0/8 to any group 100
    block in from 206.223.150.14/32 to any group 100
  ・matdを以下の方法で稼働している
    1) matd.cf は /home/aniki/ctrl に設置し、以下の内容で記述している
      proto=tcp
      listen=206.223.150.14:80
      output_if=em0
      targets=00:1c:c0:4c:e2:cd=1,00:1c:c0:26:a7:08=1,00:1c:c0:4d:39:c4=1,\
      00:1c:c0:56:75:f0=1,00:1c:c0:56:7d:83=1
    2) matdのログは /home/matd/log/mainというディレクトリに出力される
      様に設定している
      起動スクリプトは /home/matd/log/runに以下の内容で設置している
      #!/bin/sh
      exec setuidgid users multilog t ./main
    3) matdはdaemontools配下で起動する様に /var/matd/run で記述している
      #!/bin/sh
      exec env - /usr/sbin/rtprio 31 /usr/local/sbin/matd -F -f \
      /home/aniki/ctrl/matd.cf -s /var/log/matd.stats
      そして /var/service 内に /var/matd を参照する様にリンクを貼っている

次にbanana3244(c24)について。
  ・206.223.150.14 のIPを em1に割り当て済
    (rc.confに記述、ただしオンラインでの有効化は行なっていない)
  ・10.0.0.2のIPを lo0に割り当て済(rc.confに記述&オンラインで有効化)
  ・matd & ucarpをインストール済
  ・Apacheのhttpd.confで指定しているListen行を以下の内容に修正済
    Listen 206.223.150.200:80
  ・ipfilterを稼働状態にしている
  ・/etc/ipf.rulesを以下の内容で設定している
    block in log quick from any to any with ipopts
    block in log quick proto tcp from any to any with short
    block in quick proto tcp from any to 206.223.150.14 port = 80
    block out from 127.0.0.0/8 to any group 150
    block out from any to 127.0.0.0/8 group 150
    block out from any to 206.223.150.14/32 group 150
    block in from 127.0.0.0/8 to any group 100
    block in from 206.223.150.14/32 to any group 100
  ・matdの設定&稼働はまだ行なっていない

banana3244(c24)で 206.223.150.14 のIPをオンラインで有効化してしまうと、
banana3239(c21)でのmatd単体テスト時にIPが重複するので、どっちのサーバに
アクセスするか判らなくなるからです。
なので、banana3244についてはbanana3239の単体テストが終わるまで、
一旦構築作業を中断します。

で、別件でbanana3239(c21)とA-Tiger(tiger3502-3506)との間でpingやSSHが
有効かどうかを確認しています。
そこが通じていないと、matdを動かしていてもフロントサーバに通信できない
状況になりますので・・・
(心配し過ぎであればそれでも良いのですが・・・ちょっと最近悪い時のカンが
当たるんですよね。。。('A`))

また、報告します。

[追記 19:10]
('A`)落ち着け、落ち着け。
えーとbanana3239(c21)単体で、matd を使ってロードバランサを動かす
環境が出来ました
(書き間違えてた部分や変更点は青文字で、欠けていた部分は赤文字で書きました。)

banana3239(c21)の環境は最終的にこういう形になりました。
  ・206.223.150.14 のIPを em0に割り当て済(rc.confに記述&オンラインで有効化)
  ・10.0.0.1のIPを em1に割り当て済(rc.confに記述&オンラインで有効化)
  ・matd & ucarpをインストール済
  ・Apacheのhttpd.confで指定しているListen行を以下の内容に修正済
    Listen 206.223.150.200:80
  ・ipfilterを稼働状態にしている
  ・/etc/ipf.rulesを以下の内容で設定している
    以下の1行のみに修正
    block in quick proto tcp from any to 206.223.150.14 port = 80

  ・matdを以下の方法で稼働している
    1) matd.cf は /usr/local/etc に設置し、以下の内容で記述している
      proto=tcp
      listen=206.223.150.14:80
      output_if=em0
      targets=00:1c:c0:4c:e2:cd,00:1c:c0:26:a7:08,00:1c:c0:4d:39:c4,\
      00:1c:c0:56:75:f0,00:1c:c0:56:7d:83

    2) matdのログは /home/matd/log/mainというディレクトリに出力される
      様に設定している
      起動スクリプトは /home/matd/log/runに以下の内容で設置している
      #!/bin/sh
      exec setuidgid users multilog t ./main
    3) matdはdaemontools配下で起動する様に /home/matd/run で
      記述している
      #!/bin/sh
      exec env - PATH="/usr/sbin:/usr/bin:/bin:/usr/local/bin" \
      /usr/sbin/rtprio 31 /usr/local/sbin/matd -F -f \
      /usr/local/etc/matd.cf -s /var/log/matd.stat
s
      そして /var/service 内に /home/matd を参照する様にリンクを
      貼っている

そして、赤文字の部分が今回最初に記述していなかった為うまく動かなかった
原因の個所です。。。orz
起動スクリプトの個所で #!/bin/sh が抜けちゃっているのに気がつかなかったのは
凡ミスです。。。
あと、何故か matd.cf のところで 「proto=tcp」を記述しないとmatdが再起動を
繰り返す現象になりました。どうやら必須の項目だったようです。

で、サーバを再起動してからsvstatで様子を見ると、matdが稼働し続けている事を
確認しました。

banana3239# svstat *
dnscache: up (pid 921) 185 seconds
matd: up (pid 923) 185 seconds
pop3d: up (pid 915) 185 seconds
qmail: up (pid 917) 185 seconds
smtpd: up (pid 918) 185 seconds
smtpd-submission: up (pid 916) 185 seconds
banana3239#

で、社内サーバ(FreeBSD機)からtelnetで206.223.150.14の80番ポートへ接続してみると、
こういう結果になりました。
w44# telnet 206.223.150.14 80
Trying 206.223.150.14...
Connected to 206.223.150.14.
Escape character is '^]'.
GET / HTTP/1.1 ← 入力したデータ
Host: c.2ch.net ← 入力したデータ
←リターンキーを押す(空行送信)
HTTP/1.1 200 OK
Date: Wed, 09 Jul 2008 09:41:23 GMT
Server: Apache/2.0.59 (Unix) PHP/5.2.5 mod_ssl/2.0.59 OpenSSL/0.9.8e
X-Powered-By: PHP/5.2.5
Vary: Accept-Encoding
Content-Length: 2318
Connection: close
Content-Type: text/html

(以下、c.2ch.net のTOPページのHTMLデータが続きます。)

もう1つ、Windowsのコマンドプロンプトを使って同じ様にtelnetで 206.223.150.14 の
80番ポートに接続してみました。
すると応答待ち状態になるので、^]を入力し、リターンキーを押すと、以下の様なHTMLの
表示が出てきます。

------------------------------------------------------------------------
<!DOCTYPE HTML PUBLIC "-⁄⁄IETF⁄⁄DTD HTML 2.0⁄⁄EN">
<html><head>
<title>501 Method
Not Implemented<⁄title>
<⁄head><body>
<h1>Method Not Implemented<⁄h1>
<p>^] to ⁄ind
ex.html not supported.<br ⁄>
<⁄p>
&l;thr>
<address>Apache⁄2.0.59 (Unix) PHP⁄5.2.5 mod_
ssl⁄2.0.59 OpenSSL⁄0.9.8e Server at tiger3502.maido3.com Port 80<⁄address>
<⁄body
><⁄html>

ホストとの接続が切断されました。
------------------------------------------------------------------------

これを何回か繰り返すと表示されるサーバ名(上記の例で青太字で表した箇所)が
tiger3502 -> tiger3503 -> tiger3504 ・・・という様に変わっていきます。
ここが変わるという事はロードバランサー(banana3239)からcサーバへ振り分けが
おこなわれている事を意味します。

これでbanana3239の環境構築はひと段落ついたかな、と。
あ、最初matdを稼働させた時にcサーバ(A-Tiger:64ビット機)との接続がどうも
うまくいかなかったので、「T-Bananaサーバ(32ビット機)同士だとどうだろう?」と思って
試験的にbanana3244(c24)に206.223.150.14をつけて動作を調べていたりしました。
途中の状況を見ていると、「どうなっているの?」と思ったかもしれませんが、
色々あがいていました。
ただ、最終的には凡ミスとパラメータの指定不足、という結果だったのが判り、
回り道してしまったなあ、と。

あと、banana3244については以下の修正を実施し、この状態で一旦凍結しています。
 ・206.223.150.14 のIPはem0から削除  ・10.0.0.2をem1に割り当て
最後にクロスケーブルが性能を発揮していない(1Gbpsで認識されず、100Mbpsで認識される)
件については、先ほどPIEにクロスケーブルの交換を要請しています。
これは明日実施される予定です。
(ってか、Brian( ^ω^)、自作もいいけど、ショップ行って買ってきてよ・・・)
こちらについては、明日改めてご報告という事で。

65日目に戻る。   67日目に続く。

目次に戻る
1日目 2日目 3日目 4日目 5日目 6日目 7日目
8日目 9日目 10日目 11日目 12日目 13日目 14日目
15日目 16日目 17日目 18日目 19日目 20日目 21日目
22日目 23日目 24日目 25日目 26日目 27日目 28日目
29日目 30日目 31日目 32日目 33日目 34日目 35日目
36日目 37日目 38日目 39日目 40日目 41日目 42日目
43日目 44日目 45日目 46日目 47日目 48日目 49日目
50日目 51日目 52日目 53日目 54日目 55日目 56日目
57日目 58日目 59日目 60日目 61日目 62日目 63日目
64日目 65日目 66日目 67日目 68日目 69日目 70日目
71日目 72日目 73日目 74日目 75日目 76日目 77日目
78日目 79日目 80日目 81日目 82日目 83日目 84日目
85日目 86日目 87日目 88日目 89日目 90日目 91日目
92日目 93日目 94日目 95日目 96日目 97日目 98日目
99日目 100日目 101日目 102日目 103日目 104日目 105日目
106日目 107日目 108日目 109日目 110日目 111日目 112日目
113日目 114日目 115日目 116日目 117日目 118日目 119日目
120日目 121日目 122日目 123日目 124日目 125日目 126日目
127日目 128日目 129日目 130日目 131日目 132日目 133日目
134日目 135日目 136日目 137日目 138日目 139日目 140日目
141日目 142日目 143日目 144日目 145日目 146日目 147日目
148日目 149日目 150日目 151日目 152日目 153日目 154日目
155日目 156日目 157日目 158日目 159日目 160日目 161日目
162日目 163日目 164日目 165日目 166日目 167日目 168日目
169日目 170日目 171日目 172日目 173日目 174日目 175日目
176日目 177日目 178日目 179日目 180日目 181日目 182日目
183日目 184日目 185日目 186日目 187日目 188日目 189日目
190日目 191日目 192日目 193日目 194日目 195日目 196日目
197日目 198日目 199日目 200日目 201日目 202日目 203日目
204日目 205日目 206日目 207日目 208日目 209日目 210日目
211日目 212日目 213日目 214日目 215日目 216日目 217日目
218日目 219日目 220日目 221日目 222日目 223日目 224日目
225日目 226日目 227日目 228日目 229日目 230日目 231日目
232日目 233日目 234日目 235日目 236日目 237日目 238日目
239日目 240日目 241日目 242日目 243日目 244日目 245日目
246日目 247日目 248日目 249日目 250日目 251日目 252日目
253日目 254日目 255日目 256日目 257日目 258日目 259日目
260日目 261日目 262日目 263日目 264日目 265日目 266日目
267日目 268日目 269日目 270日目 271日目 272日目 273日目
274日目 275日目 276日目 277日目 278日目 279日目 280日目
281日目 282日目 283日目 284日目 285日目 286日目 287日目
288日目 289日目 290日目 291日目 292日目 293日目 294日目
295日目 296日目 297日目 298日目 299日目 300日目 301日目
302日目 303日目 304日目 305日目 306日目 307日目 308日目
309日目 310日目 311日目 312日目 313日目 314日目 315日目
316日目 317日目 318日目 319日目 320日目 321日目 322日目
323日目 324日目 325日目 326日目 327日目 328日目 329日目
330日目 331日目 332日目 333日目 334日目 335日目 336日目
337日目 338日目 339日目 340日目 341日目 342日目 343日目
344日目 345日目 346日目 347日目 348日目 349日目 350日目
351日目 352日目 353日目 354日目 355日目 356日目 357日目
358日目 359日目 360日目 361日目 362日目 363日目 364日目

いま一番お得なページ! 解析
[an error occurred while processing this directive]