盆暗の学習記録

round関数の意味を誤解したまま使っていて面倒なことになったのでメモ。 round()は四捨五入をするわけではない 偶数への最近接丸め 言い換えると round()は厳密に偶数丸めをするわけではない 偶数丸めのアルゴリズムから予想される結果と数値計算の結果との誤差 representation errorに注意する必要がある 参考 round()は…