コンピュータにおける誤差の種類【桁落ち・情報落ち・桁あふれ誤差・丸め誤差・打切り誤差】
10進数で1÷3をすると、割り切れない数となります。 1÷3 = 0.33333333..... 当たり前ですが3進数なら10進数の1/3や2/3は割り切れる数です。※()内は基数 1/3 (10) = 0.1 (3) 2/3 (10) = 0.2 (3) 2進数の場合においても無限小数はあり、例えば10進数の0.1を2進数にすると無限小数となります。 0.1 (10) = 0.0001100110011... …
