ロードバランサと振り分け方式 — 3台なのに偏る
upstream に3台書いて満足していたら、1台だけ CPU が張り付いていました。振り分け方を選んでいなかったからです。名前を返すバックエンドを3つ立て、うち1つをわざと遅くして、round robin と least_conn で処理件数がどう変わるかを実測します。続いてログイン状態を持つアプリで「リクエストごとに別の台へ行くと落ちる」を再現し、スティッキー・外部セッション・ステートレスの3択を比べます。1台止めて max_fails と fail_timeout の挙動を見て、既定では落ちた台にも一度は送られること、nginx の無料版は受動ヘルスチェックしか持たないことを確かめます。リバースプロキシとの違い、DNS ラウンドロビンがキャッシュのせいで外せない話、そしてロードバランサ自身が単一障害点になる問題と冗長化の考え方まで。