NOTE！
Q ７
Biz/Browserでの小数点演算
A ７
Biz/Browserで数値を扱う場合デフォルトは、Number型となります。
Number型では数値を扱う場合に浮動小数点型を利用しております。
浮動小数点型は実数を表すために使われますが、コンピュータ内部が２進数であるためにすべての値が正確に表現できるわけではなく、その近似値で表されています。
従ってメモリに格納した値や演算結果は、ほとんどの場合誤差を含んでいます。
（１０進数の「0.1」は、２進数では「0.00011001100110011・・・以降0011の繰り返し」となり表現できません）

浮動小数点演算は本来正確ではなく、プログラムの記述によっては期待しない結果を招きます。誤差による問題を完全に回避することはできませんが、演算の精度はコーディングの方法によって変化します。

Ver4.0より固定小数点型のFixed クラスを用意いたしました。整数部15桁、小数部4桁に制限されますが、浮動小数点の特性に起因する誤差は原理的に発生しません。
ただし、Fixed と Number等の他の型との間で演算を行った場合には、Numberとして演算を行いますので注意が必要です。

管理番号：Pnt_022
  Biz-Collections Bizの宝箱 トップへ
  Biz/Browser・Biz/Designer TIPS集 トップへ