計算量– tag –
-
コンピュータ科学 深掘り
自作KVストアで理屈を実測する — CSの到達作品
コンピュータ科学深掘りコースの到達作品です。新しい知識は足しません。これまで別々に書いてきた計算量・線形探索・ハッシュ表・衝突・LRUを、1つの小さなKVストア(キーと値の入れ物)に束ねて、自分の手で作ります。まず配列に持って線形探索する遅い版を書き、10万件で1回引くのに何マイクロ秒かかるかを実測します。次にハッシュ索引を自作して桁違いに速くなることを測り、衝突とリサイズを扱い、最後にLRUで容量を守りながらヒット率を測ります。締めは1枚の表で「計算量の予想と実測の数字が一致する」ことを確かめます。RedisやMapの中で起きているのは、これと同じことです。 -
コンピュータ科学 深掘り
計算量とO記法 — データが10倍で100倍遅くなる
テストデータ100件では一瞬だった処理が、本番の10万件で固まりました。原因は「遅いコード」ではなく「データが増えると時間が何倍になるか」を見ていなかったことでした。この記事ではVMの中に小さな計測台を作り、O(1)・O(log n)・O(n)・O(n log n)・O(n²)・O(2ⁿ) の6つを実際に走らせて、nを10倍にしたとき時間が何倍になるかを表にします。定数を無視する理由も、nとn²/100が逆転する交差点を実測して確かめます。最後に、同じO(n)でもメモリのアクセス順で数倍変わることを測り、なぜ最後は必ず測るのかまで見ます。 -
コンピュータ科学 深掘り
配列と連結リスト — 先頭への追加が数百倍遅い
配列の末尾に1万件足すのは一瞬なのに、先頭に1万件足したら固まりました。原因は「データの置き方」で、この記事ではそれをVMの中のNode.jsで実測して確かめます。push と unshift を10万回ずつ回して差を測り、動的配列の「2倍に取り直して全部コピー」を自分で実装してコピー回数を数え、単方向・双方向の連結リストを自分の手で書きます。そのうえで、同じ O(n) の全走査を配列と連結リストで比べると教科書どおりにならないことを実測で確認し、CPUキャッシュという理由まで降りていきます。最後に「どの操作にどちらが向くか」を、計算量と実測の両方が入った1枚の表にまとめます。 -
コンピュータ科学 深掘り
スタックとキュー — call stack size exceeded の正体
終わらない再帰を書いて Maximum call stack size exceeded を出したとき、私は「JavaScriptが疲れた」くらいの理解でした。実際は、自分がその日 push と pop で作ったのと同じものが、言語の内側で溢れていただけでした。この記事では VM の中に ~/cslab/sq を作り、スタックとキューを手で書きます。全部 O(1) であることを実測し、わざとエラーを出して積める段数を数え、スタックトレースが下から読める理由を出力で確かめます。キューは配列の shift() で作ってから 10万件で測り、先頭の位置を持つ形に直して同じ測定で速くなることを見ます。最後に setTimeout と Promise の実行順を出して、イベントループもキューだったことを確かめて全部消します。 -
コンピュータ科学 深掘り
ハッシュテーブル — 10万件のincludesで止まる
10万件の配列に includes を書いたら画面が止まりました。Set の has に変えたら一瞬で終わり、そのとき私は「Setは速い」で納得してしまいました。この記事では VM の中に ~/cslab/hash を作り、その差が何倍あるのかを実測してから、ハッシュ関数とハッシュテーブルを自分の手で書きます。バケットの中身を表示して、どのキーがどこに入ったかを目で見て、わざと衝突させて O(1) が O(n) に落ちる瞬間を表にします。負荷率とリサイズを実装して、リサイズが起きた15回だけ平均の3万倍遅くなることを測ります。最後にハッシュと暗号化とエンコードを sha256sum と base64 で並べて確かめ、Object と Map と Set と WeakMap の使い分けを表にして全部消します。 -
コンピュータ科学 深掘り
ヒープとLRUキャッシュ — 10件欲しいだけで100万件ソート
ランキングの上位10件を出すために、私は100万件を毎回まるごとソートしていました。必要なのは10件なのに、残りの999990件を丁寧に並べ替えていたわけです。この記事では VM の中に ~/cslab/heap を作り、サイズ10のヒープを手で書いて、全部ソートする版と実測で比べます。ヒープが「木なのにポインタを1つも使わず、配列1本で持てる」ことを添字の計算で確かめ、内部配列を表示してヒープがソートされていないことを見ます。後半はLRUキャッシュを素朴な O(n) 版から O(1) 版へ直し、容量を変えながらヒット率を実測します。最後に LRU・LFU・MFU・FIFO・ランダムを同じアクセス列で走らせ、LFU が「昔たくさん使われたもの」に居座られて負ける瞬間を数字で出してから、全部消します。 -
コンピュータ科学 深掘り
線形探索と二分探索 — 1回引くだけなら並べると損
「二分探索のほうが速い」は、並べる時間を勘定に入れていない。ソートは O(n log n)、探索は O(log n)。1回しか引かないなら、線形探索のほうが速い。何回引いたら並べるべきかを、実際に交差点が出るまで測る。二分探索の実装でよく踏む3つの間違いをわざと出して直し、「見つからないときどこに入れるか」を返す版まで作る。最後にハッシュとの使い分け、総当たりが正解になる場面、そして git bisect が二分探索そのものだという話。 -
コンピュータ科学 深掘り
ソートアルゴリズム6種 — 並べ替えたら10が2の前に来た
3件の配列を並べ替えただけで 1, 10, 2 が返ってきたとき、私は自分のコードのどこかにバグがあると思って30分探しました。バグはありませんでした。この記事では VM の中に ~/cslab/sort を作り、バブル・選択・挿入・マージ・クイック・ヒープの6つを自分で書きます。同じ4種類のデータで、時間だけでなく比較回数と書き込み回数を数えて1枚の表にします。すでに並んでいるデータで自作クイックソートを走らせて Maximum call stack size exceeded を出し、軸の選び方を変えて直るところまでやります。同点データを並べ替えて「安定」が何のことかを出力で見て、最後に V8 の sort と全部を測り比べて ~/cslab を消します。 -
コンピュータ科学 深掘り
二分探索木と3つの巡回 — 木にしたのに一直線になる
二分探索木は「探索が O(log n) になるデータ構造」だと覚えていました。実際に 1,2,3,... を順に入れてみたら、木の高さが 39999 になり、1件探すのに平均 20000 回比較していました。木ではなく、右に伸びた連結リストになっていたのです。この記事では VM の中に ~/cslab/tree を作り、insert / search / min / max / delete を自分で書き、削除の3パターンを図で確かめます。3つの巡回を並べて in-order だけがソート済みで出てくることを見て、幅優先はキューで書きます。最後に並んだデータを入れて高さと探索時間を実測し、再帰版の巡回を 20000 件で落として、明示的なスタックのループ版に書き換えて全部消します。 -
コンピュータ科学 深掘り
PとNP・NP完全 — 答え合わせは一瞬なのに解けない
シフト表を自動で組む機能が、いくら速くしても終わらなかった。原因はコードではなく問題のほうでした。巡回セールスマンを Node.js で総当たりして、n を1増やすたびに時間が n 倍になる壁を実測します。「答え合わせは一瞬なのに、探すのは無理」という非対称を見てから、P・NP・NP完全・NP困難を1枚の表で整理します。ナップサック、ハミルトン閉路、最長経路、グラフ彩色を実際に走らせ、オイラー路や最短経路が一瞬で終わるのと並べて比べます。最後に現場の逃げ道4つ(貪欲・2-opt・問題を小さくする・時間で打ち切る)を実装して、最適解・所要時間・実装の手間を表にします。
12