Excelが計算間違いをすることがあるって知ってましたか？
実は、Excelは小数点を含む数値の計算が苦手なんです。
だからExcelで小数を含む計算をする場合には、気を付けてください
思わぬ結果になることがあります・・・^_^;
なぜ、そのようなことが起こるのでしょう？？？
ひとことで説明すると、コンピュータの計算は、２進数が基本となっているからです。
たとえば、1/10 という分数は、10 進法では 0.1 と表現できるのに対し、
同じ数を 2 進数で表現すると、無限に繰り返される循環 2 進数になるのです。
これを決められた領域内で表現するためには、
どこかで数字を丸めることになるのですが
そこで、誤差が発生するのです。
とにかく、小数点以下の数、時間のシリアル値、パーセント、15桁を超える数を扱うときは
気を付けてくださいね。
誤差を避けるには・・・
誤差が発生することはMicrosoftも認識しているみたいです。
Excel で浮動小数点演算の結果が正しくない場合がある
そして、誤差対策は、
浮動演算での丸目のエラーを修正する方法
で、２つの方法を上げています。
でも、上記のサイトの説明はちょっとわかりにくいですね。
実際に、誤差を避けようとするには
- 整数化
- 微小値を使う
- ROUND 関数で数をそろえる
などの方法があります。
日経PC21のサイトに詳しい説明が掲載されていますので
参考にしてみてくださいね。
“達人”芳坂和行氏に学ぶ、エクセル(Excel)「演算誤差」対策講座
