NOTE！
Q 12
Biz/Browserでの小数点演算
A 12
Biz/Browserで数値を扱う場合デフォルトは、Number型となります。
Number型では数値を扱う場合に浮動小数点型を利用しております。
浮動小数点型は実数を表すために使われますが、コンピュータ内部が２進数であるためにすべての値が正確に表現できるわけではなく、その近似値で表されています。
従ってメモリに格納した値や演算結果は、ほとんどの場合誤差を含んでいます。
（１０進数の「0.1」は、２進数では「0.00011001100110011・・・以降0011の繰り返し」となり表現できません）

浮動小数点演算は本来正確ではなく、プログラムの記述によっては期待しない結果を招きます。誤差による問題を完全に回避することはできませんが、演算の精度はコーディングの方法によって変化します。

管理番号：PntM_022
  Biz-Collections Bizの宝箱 トップへ
  Biz/Browser Mobile・Biz/Designer Mobile TIPS集 トップへ