小清水さんとコンピューター数学
id:curekoshimizu
コンピュータでおかしなことになる計算例 (1)
小清水です。初ブログになります。 カタストロフィックに 計算結果がおかしくなる 例を紹介したいと思います。 Excel を使用した例と C言語の例です。 お膳立て:(飛ばしてOK) コンピュータの中で 実数 は一般にどのように表されているのでしょうか? 浮動小数点数 と呼ばれる数で表されることが多いです。 例えば、 はど…