えびちゃんの日記
id:rsk0315
x / y * y == x となる確率について
double において 1.0 / 49.0 * 49.0 < 1.0 が true になることは有名です。 では、一般に x / y * y != x となるのはどういうときでしょうか? また、その誤差はどのくらいでしょうか? こうした疑問自体はある程度自然であり、素朴なアルゴリズムの誤差評価の文脈でも出てくるものではあります。 これについて考えていた…