「丸め誤差(浮動小数点形式の仮数部で発生する誤差)」とは?わかりやすく解説|進数のさまざまな数値の表現(基本情報技術者)

|丸め誤差とは? |丸め誤差を軽減させるには? ここでは、丸め誤差(浮動小数点形式の仮数部で発生する誤差)について解説します。 amprime.hatenablog.com |丸め誤差とは? 浮動小数点形式では、実数を近似的に表現するため、仮数部のビット数に制約があります。この制約により、一部の実数は正確に表現できず、丸め誤…