Javascript 丸め誤差（Javascript以外でも、小数点以下1桁でも）

Tweet

Category develop, JavaScript 2009/12/01

次のJavascriptを実行してみましょう。

<script  type="text/javascript">
alert(0.1*6)
alert(1.001-1)
</script>

結果（1行目のalertの場合）

Javascript 丸め誤差

切り捨て、切り上げ、四捨五入などおこなうときは、要注意。

小数のままでコンピュータ（2進数）で対応するのはどうしても限界があるので、やはり小数点以下2桁までなどの制限をつけるように気をつけた方がよさそうです。

小数点以下2桁の数値を100倍して整数にして計算するなどです。