丸め誤差 小数点以下の数は2進数で表現できないため近似値を使用している。例えば"0.1(10)"は"0.0001100110011...(2)"となり、"0011"が永遠に循環する。このため、適当な桁で結果が偶数になるように丸める(最近接偶数への丸め)。 以上から発生する誤差が丸…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。