目次

Search

  1. はじめに
  2. 関数リファレンス
  3. 定数
  4. 演算子
  5. 日付
  6. 関数
  7. システム変数
  8. データ型リファレンス

関数リファレンス

関数リファレンス

Double値の丸め処理方式

Double値の丸め処理方式

システムの実行時ライブラリと、データベースがdoubleデータ型計算を行うコンピュータシステムの違いにより、予想外の結果になる場合があります。プラットフォームの違いによる計算結果への影響を少なくするため、
データ統合
は、Doubleデータ型の値の15桁の有効桁数を格納します。
doubleデータ型はIEEE 794標準に準拠します。データベースクライアントライブラリへの変更、データベースの異なるバージョン、システム実行時ライブラリへの変更は、算術的に同等な値のバイナリ表現に影響します。また、多くのシステム実行時ライブラリは偶数丸め方法や対称算術法を実装しています。偶数丸め方法は、数字が次の上下の数の中間にある場合、偶数の最小位ビットの最も近い値に丸められます。たとえば、偶数丸め方法では、0.125は0.12に丸められます。対称算術法では末尾桁が5以上の場合は次の桁に丸められます。たとえば、対称算術法では0.125は0.13に丸められ、0.124は0.12に丸められます。
データ統合
は、Doubleデータ型の値の15桁の有効桁数を格納します。例えば、Windowsで計算を実行すると、数値1234567890.1234567890が返され、同じ計算をUNIXで実行すると、1234567890.1234569999が返される場合、
データ統合
はこの数値を1234567890.1234600000に変換します。