リスキリングで拓く未来:デジタル技術者のキャリアパス
id:jugemkk
「打切り誤差」についてわかりやすく解説|浮動小数点形式の仮数部で発生する誤差(基本情報技術者)
|打切り誤差とは? |打切り誤差を回避する方法とは? |まとめ |打切り誤差とは? 浮動小数点形式の仮数部で発生する誤差の一つとして「打切り誤差(だきりごさ)」という現象があります。打切り誤差は、浮動小数点形式で表現される数値が、その有効桁数の制限によって正確な値から切り捨てられることによって生じる誤…