Cache-Control– tag –
-
システム設計 深掘り
キャッシュを置く5つの層 — 入れたのに速くならない
Redis を入れたのに平均レイテンシがほとんど動きませんでした。置く場所が間違っていたからです。まったく同じ1つの処理を、何もしない・アプリのメモリ内・Redis・nginx の proxy_cache・ブラウザの Cache-Control という5つの層でキャッシュして、平均レイテンシとアプリへの到達回数を実際に測り、1枚の表にします。そこから出てくるのは「手前ほど速いが、手前ほど消せない」という、置き場所を決めるためのたった1本の軸です。次にヒット率を測ります。Redis の INFO stats と nginx の X-Cache-Status でヒット数とミス数を数え、ヒット率が低いキャッシュは速くするどころか確認コストの分だけ遅いこと、元の処理が何ミリ秒からキャッシュが黒字になるのかを、式と数字で出します。さらにキャッシュが原因の事故を3つ、わざと起こします。消し忘れで古いデータが出続けるところ、期限切れの瞬間に50本のリクエストが全部 DB へ殺到するキャッシュスタンピード、そしてダミーデータを使って、個人向けの応答が共有キャッシュに入って他人に見えるところまでです。対策は TTL をずらす・ロックする・private と Vary の3つを実際に当てて、直ったことを同じ手順で確認します。最後に、そもそも計算を減らす・索引を張るという「キャッシュを置かない選択」に戻り、何をどの層に置くかの判断表と、後片づけまでやります。 -
システム設計
キャッシュは4箇所にある — Cache-ControlとCDN
Redisで作ったキャッシュは、実は4箇所あるうちの一番奥だけでした。ブラウザ・CDN・リバースプロキシ・アプリを地図にして整理し、nginx で Cache-Control を自分で付けて、開発者ツールで from disk cache と 304 が出るところまで見ます。ハッシュ付きファイルは1年・HTMLはキャッシュしない、という定石の理由も回収します。proxy_cache でアプリにリクエストが届かなくなるのを確かめ、最後にわざと事故を起こします。CDNは仕組みの説明だけで、契約はしません。
1