2進数と浮動小数点 — 0.1+0.2が0.3にならない
合計金額が1円だけ足りない、という不具合を出したことがあります。原因は割引後の単価が小数だったこと、そして掛けた結果が 434.99999999999994 になっていたことでした。この記事では VM の中の Node.js で、2進数の読み方、ビット演算7種類、そして 0.1 + 0.2 が 0.30000000000000004 になる理由を、64ビットのビット列を実際に取り出して最後まで説明しきります。さらに金額を壊さない持ち方(整数と BigInt)、toFixed が計算を直していないことの実演、エンディアンでバイト順が逆になるところまで手を動かして確かめます。最後に対数・指数・階乗の伸び方を表にして、次の回の計算量へ橋を架けます。