小数点以下の数の計算違い
プログラミング へ戻る
大学生のための数学 へ戻る
2017.05.26


  十進BASIC は 10進数で16桁までの計算しかできませんが、 OPTION ARITHMETIC decimal_HIGH という一行を最初に付け加えると、 多桁の計算をきちんとしてくれます。 しかし、 html / JavaScript ではそういったものがありません。 したがって、 html / JavaScript では10進数でせいぜい20桁までの計算しかできません。 その上、 元々 html / JavaScript は小数点以下の数の計算が不正確なのです。 次のプログラムは十進BASIC のプログラムです。 小数点以下の桁数を調べるために、 整数になるまでに何回10倍しなくてはならないのかを数えています。


  このプログラムを html / JavaScript に移植して実行すると次のようになります。 html / JavaScript は小数点以下の数の計算が不正確なのが実感できると思います。
   html / JavaScript のプログラム :

  たとえば、 123.456789 が「 小数点以上3桁、 小数点以下6桁の数 」であるということを表示するプログラムは、 十進BASIC では次のようになります。

  このプログラムは html / JavaScript では、 次のように文字列の長さを利用するものにしなければなりません。