小清水さんとコンピューター数学

小清水 (@curekoshimizu) です。 計算ツールに対して その 計算精度 がわかると便利ではないでしょうか？ 例えば、コンピュータにのっている その Excel はどのくらいの精度 で計算してくれる？ こうしたアプリケーションだけでなく、 そのコンピュータの中に入っている、 Intel の CPU はどのくらいの精度 で計算してくれ…