SSE– tag –
-
システム設計 深掘り
非同期処理とジョブキュー — 1つの遅い処理が全部を止める
画像を1枚上げるのに30秒待たされる画面を、待たせない形に組み替えます。まず3秒かかる処理を持つエンドポイントを本当に作り、hey で同時に叩いて、無関係な /health まで巻き込まれて遅くなるところを実測します。1つの遅い処理が全体を止める——本線のサーキットブレーカと同じ構図です。次にキューへ積んで 202 Accepted を返し、ワーカーに処理させ、同じ負荷で応答時間が戻ることを測ります。そのかわり利用者からは「終わったか」が見えなくなるので、結果の返し方をポーリング・Webhook・WebSocket/SSE の3方式で対比し、ポーリングを実装します。さらに同じ依頼が2回来ても2回実行されないよう、依頼IDで記録して冪等にします。最後にどこまで非同期にするかの判断表、非同期にすると増える仕事、無限に積まないためのバックプレッシャーまでやって、後片づけします。 -
コンピュータ科学 深掘り
SSEとWebSocket — 1秒ごとに聞きに行くのをやめる
1秒ごとに「新着ありますか」と聞きに行くコードを書いて、60秒で59回投げて53回が空振りだったところまで実測します。その手前で、Node.js の net で素のTCPサーバーを書き、200回 write したのに data イベントが17回しか起きないところを再現します。TCP にはメッセージの区切りが無いからです。改行区切りと長さプレフィックスの両方で直します。UDP と比べ、ロングポーリングで59回を7回に減らし、最後に SSE の生バイト列と WebSocket の 101 応答を curl で取り、フレームを1つ手で解読します。 -
バックエンド
サーバーから勝手には送れない — WebSocketとSSE
HTTPは「聞かれたら答える」しかできない。だから最初は2秒ごとに聞き直すことになり、無駄なリクエストがログに積み上がるのを実際に見ます。そこからロングポーリング・SSE・WebSocketへ順に進み、向き不向きを表にします。実装は ws パッケージ。nginx を前に立てたまま繋ぐと必ず失敗する Upgrade の話と、プロセスを2つにした瞬間に更新が半分の人にしか届かなくなる事故を、わざと起こして Redis の publish/subscribe で直すところまで。
1