10進数クラスの話 - おっさんプログラマの戯れ言
Javaプログラマ向け、Objective-Cの10進数クラスの話。JDK 7, Xcode 5.0 浮動小数点型では、10進数の小数部を正しく表現できないことが多い。 具体的には、2の-n乗の値の組み合わせでしか小数値を表せない。 これはIEEE 754の仕様上、当然のことである。たとえば、double型の0.1は、以下のように微妙な誤差をもって表現さ…