Kahan summation algorithmを試してみました。
発端 0.01f を 10000 回足すと 100.003f になる話に関連して、カハンの加算アルゴリズムを使うと、浮動小数点数の合計を求めるときの誤差を減らせることも知っておきたい https://t.co/Ctrz6V3QQ6 pic.twitter.com/FPPrUG2v8W— Ryo Suzuki (@Reputeless) 2018年11月19日 発端はこの@Reputelessさんのツイートからです。 コ…
