ビット演算– tag –
-
コンピュータ科学 深掘り
2進数と浮動小数点 — 0.1+0.2が0.3にならない
合計金額が1円だけ足りない、という不具合を出したことがあります。原因は割引後の単価が小数だったこと、そして掛けた結果が 434.99999999999994 になっていたことでした。この記事では VM の中の Node.js で、2進数の読み方、ビット演算7種類、そして 0.1 + 0.2 が 0.30000000000000004 になる理由を、64ビットのビット列を実際に取り出して最後まで説明しきります。さらに金額を壊さない持ち方(整数と BigInt)、toFixed が計算を直していないことの実演、エンディアンでバイト順が逆になるところまで手を動かして確かめます。最後に対数・指数・階乗の伸び方を表にして、次の回の計算量へ橋を架けます。 -
コンピュータ科学 深掘り
CPUの仕組みを自作する — 足し算しかしていない
CPUを「魔法の箱」で終わらせないために、手元で全部作って動かします。2の補数をJavaScriptで組んで引き算を足し算に置き換え、AND・OR・XOR・NOTの4関数だけから8ビット加算器を作って0〜255の全組み合わせでJavaScriptの + と一致することを確認します。命令が10個だけの極小CPUシミュレータを書いてフェッチ・デコード・実行を1サイクルずつ表示させ、レジスタ版とメモリ版でアクセス回数を数えます。最後に本物のCPUを lscpu と gcc -S で覗き、キャッシュの効き方を実測して、割り込みの回数が増える瞬間を vmstat で見ます。
1