負荷分散– tag –
-
システム設計 深掘り
ロードバランサと振り分け方式 — 3台なのに偏る
upstream に3台書いて満足していたら、1台だけ CPU が張り付いていました。振り分け方を選んでいなかったからです。名前を返すバックエンドを3つ立て、うち1つをわざと遅くして、round robin と least_conn で処理件数がどう変わるかを実測します。続いてログイン状態を持つアプリで「リクエストごとに別の台へ行くと落ちる」を再現し、スティッキー・外部セッション・ステートレスの3択を比べます。1台止めて max_fails と fail_timeout の挙動を見て、既定では落ちた台にも一度は送られること、nginx の無料版は受動ヘルスチェックしか持たないことを確かめます。リバースプロキシとの違い、DNS ラウンドロビンがキャッシュのせいで外せない話、そしてロードバランサ自身が単一障害点になる問題と冗長化の考え方まで。 -
システム設計
ボトルネックは動く — 負荷分散とキャッシュの設計
設計を「速くする方法」だと思うと必ず外す。やることは「どこが先に詰まるかを知る」こと。abで自分のVMの限界を数字にして、アプリを2つ立ててnginxのupstreamで振り分け、そこで必ず起きるセッション切れをわざと起こして直す。増やしても頭打ちになる場所が移る話と、1台落としても動くかの確認まで。
1