paiza times
id:paiza
Python3で巨大な浮動小数計算の結果が変だったので理由を調べてみた
Photo by Jacob Munk-Stander 秋山です。 タイトルのとおり、Python3で巨大な浮動小数計算をした時の計算結果についての話です。例えば、 11 × ÷ 10 という計算式があったとしましょう。普通に人力で単純に計算しようと思ったら、10の23乗を計算して、それから11を掛けて…という手順になるかと思いますが、10の23乗の時点…