キャッシュ– tag –
-
システム設計 深掘り
推測で直さず測って潰す — システム設計の到達作品
システム設計深掘りコースの到達点として、わざと遅いアプリを1つ立て、負荷をかけて p95 が悪化する点を見つけ、ボトルネックを1つだけ特定して潰し、Before/After を数字で示す回です。新しい知識はほとんど出てきません。これまで見てきたレイテンシとスループット、キャッシュ、負荷分散、結果整合、非同期を、1つの流れに束ねます。500,000 行のテーブルと索引の無いクエリでわざと遅くしたAPIに ab で負荷をかけ、平均ではなく p95・p99 を記録し、top と MySQL のプロセス一覧でどこが詰まっているかを切り分け、索引を1本張って同じ負荷で測り直します。数百ミリ秒が数十ミリ秒に変わることを、スループット・p95・p99 の1枚の表で示して締めます。 -
React 深掘り
データ取得とTanStack Query — 取得コードが200行になる
useEffect + fetch で一覧画面を書いたら、読み込み中・エラー・空・競合状態・再取得・キャッシュの世話で200行になっていた。まず「自分で書くと何が必要になるか」を10項目の表にして数える。そのうえで ~/reactlab をポート5182で新しく作り、Node.js 組み込みの http だけで「わざと遅く、わざと失敗する」練習用APIを立て、同じ画面を TanStack Query で書き直して行数を before/after で比べる。staleTime と gcTime、画面に戻ると再取得する既定の是非、queryKey に引数を入れ忘れて古いデータが出るところ、useMutation と invalidateQueries で登録後に一覧が自動更新されるところ、リトライの既定と retry: false にすべき場合まで。最後に「入れるべきか」の判断と、サーバー側で取るならそもそも要らない話。 -
システム設計 深掘り
キャッシュを置く5つの層 — 入れたのに速くならない
Redis を入れたのに平均レイテンシがほとんど動きませんでした。置く場所が間違っていたからです。まったく同じ1つの処理を、何もしない・アプリのメモリ内・Redis・nginx の proxy_cache・ブラウザの Cache-Control という5つの層でキャッシュして、平均レイテンシとアプリへの到達回数を実際に測り、1枚の表にします。そこから出てくるのは「手前ほど速いが、手前ほど消せない」という、置き場所を決めるためのたった1本の軸です。次にヒット率を測ります。Redis の INFO stats と nginx の X-Cache-Status でヒット数とミス数を数え、ヒット率が低いキャッシュは速くするどころか確認コストの分だけ遅いこと、元の処理が何ミリ秒からキャッシュが黒字になるのかを、式と数字で出します。さらにキャッシュが原因の事故を3つ、わざと起こします。消し忘れで古いデータが出続けるところ、期限切れの瞬間に50本のリクエストが全部 DB へ殺到するキャッシュスタンピード、そしてダミーデータを使って、個人向けの応答が共有キャッシュに入って他人に見えるところまでです。対策は TTL をずらす・ロックする・private と Vary の3つを実際に当てて、直ったことを同じ手順で確認します。最後に、そもそも計算を減らす・索引を張るという「キャッシュを置かない選択」に戻り、何をどの層に置くかの判断表と、後片づけまでやります。 -
システム設計 深掘り
キャッシュの書き込み戦略 — 更新したのに古い値が返る
在庫を 200 に直したのに、画面はいつまでも 100 のままでした。原因はキャッシュを入れたことではなく、「キャッシュをいつ書き換えるか」を決めていなかったことです。まず読み方の型を3つ(cache-aside・read-through・refresh-ahead)実装して、実装の手間・初回の遅さ・一貫性で対比します。続いて山場として、書き方の型3つ(write-through・write-behind・write-around)を実装し、書き込み時間と直後の読み込み時間を実測して表にします。さらに「消す」か「書き換える」かを比べ、2つの更新が交錯して古い値がキャッシュに残る競合を、わざと再現します。TTL を付けないと何が起きるかを maxmemory-policy を確認しながら見て、LRU・LFU・TTL の違いと、期限をばらつかせる理由まで。最後にキーの設計(何で引くか、バージョンを混ぜる、個人を混ぜ忘れて他人のデータが出る事故)と、読み多い・書き多い・失っていいかで選ぶ判断表、後片づけまでやります。 -
システム設計 深掘り
CDNとエッジキャッシュ — 距離は速度で解決できない
東京のサーバーに海外から繋ぐと、何をどう速くしても縮まらない時間がある。光の速さは変えられないので、近くに置くしかない。距離が往復時間にどう効くかを実測して理論値と突き合わせ、nginx を2つ立てて「エッジとオリジン」を手元で作り、キャッシュのヒットとパージ、プル型とプッシュ型、キャッシュしてはいけないもの、オリジンを守る stale-while-revalidate までを、契約せずに確かめる。 -
React 深掘り
GraphQLクライアント — 一覧を出すのにAPIを4回叩く
一覧画面を1枚出すために、REST のエンドポイントを4回、多いときは21回叩いていた。そのうえ1件70項目も返ってきて、使うのは2項目だけだった。この記事では外部の公開APIを一切使わず、その「取りすぎ」と「足りない」を再現する小さな REST API を Express で自分で立て、転送量とリクエスト回数を実測する。次に graphql-yoga で GraphQL サーバーを自分で書き、まず curl の POST 1本だけで叩いて、同じ表で数字を比べる。そのうえで React 側に urql を入れ、ドキュメントキャッシュの素直さと限界を Network タブで確認する。Relay は思想が違うので、コンパイラを実際に走らせて「スキーマ側の規約を要求される」ところまで見て、個人開発では重いと結論を出す。最後に「GraphQL を入れない理由のほうが多い」判断基準を残す。 -
コンピュータ科学 深掘り
ヒープとLRUキャッシュ — 10件欲しいだけで100万件ソート
ランキングの上位10件を出すために、私は100万件を毎回まるごとソートしていました。必要なのは10件なのに、残りの999990件を丁寧に並べ替えていたわけです。この記事では VM の中に ~/cslab/heap を作り、サイズ10のヒープを手で書いて、全部ソートする版と実測で比べます。ヒープが「木なのにポインタを1つも使わず、配列1本で持てる」ことを添字の計算で確かめ、内部配列を表示してヒープがソートされていないことを見ます。後半はLRUキャッシュを素朴な O(n) 版から O(1) 版へ直し、容量を変えながらヒット率を実測します。最後に LRU・LFU・MFU・FIFO・ランダムを同じアクセス列で走らせ、LFU が「昔たくさん使われたもの」に居座られて負ける瞬間を数字で出してから、全部消します。 -
キャッシュとキュー
キャッシュは消すのが一番難しい — Redisの導入
速くしたいから入れる、の前に必ず測る。20万件の集計を実際に遅くしてから Redis を入れ、TTL とキー設計を決め、「更新したのに古い値が返る」事故をわざと起こして直します。セッションを MySQL から Redis に移して何が変わるかと、既定で認証が無いという危険、そして入れないほうがいい場面まで。 -
システム設計
ボトルネックは動く — 負荷分散とキャッシュの設計
設計を「速くする方法」だと思うと必ず外す。やることは「どこが先に詰まるかを知る」こと。abで自分のVMの限界を数字にして、アプリを2つ立ててnginxのupstreamで振り分け、そこで必ず起きるセッション切れをわざと起こして直す。増やしても頭打ちになる場所が移る話と、1台落としても動くかの確認まで。 -
システム設計
キャッシュは4箇所にある — Cache-ControlとCDN
Redisで作ったキャッシュは、実は4箇所あるうちの一番奥だけでした。ブラウザ・CDN・リバースプロキシ・アプリを地図にして整理し、nginx で Cache-Control を自分で付けて、開発者ツールで from disk cache と 304 が出るところまで見ます。ハッシュ付きファイルは1年・HTMLはキャッシュしない、という定石の理由も回収します。proxy_cache でアプリにリクエストが届かなくなるのを確かめ、最後にわざと事故を起こします。CDNは仕組みの説明だけで、契約はしません。
12