■エクセルの誤差

エクセルは小数点以下の数字も扱えます。
でもちょっと考えてみると、小数点型の値は浮動小数点型変数で動いていると考えられます
ということは、0.1などの値は正確に表現できないため、誤差が出ると考えられます。


誤差をExcelで確認するために、 0.1をいくつも足し算してその結果を表示してみます
足し算の結果を表示する箇所は小数点以下14桁まで表示する設定にしました


0.1を59個、SUM関数で足してみます、
数式は次のように入れました。



計算結果は5.9ですから正しいです。



次に、0.1をもう一つ足してみます。
5.9 + 0.1 = 6 になるはずですが、なりません。
つまり、浮動小数点型の誤差が出ているのが確認できます。



小数点以下の金銭の計算などしている方は誤差が出るため注意が必要ですね。
おっと、応用すればサラミ法※が使えるかも

※サラミ法
サラミソーセージを丸々一本盗むと発覚するが、サラミソーセージを細かくスライスした中から一つずつ 盗むと発覚しない。
誤差の範囲分だけ少量ずつ金銭を着服すること。



▲トップページ > オフィス