目次

Search

  1. はじめに
  2. 関数リファレンス
  3. 定数
  4. 演算子
  5. 日付
  6. 関数
  7. システム変数
  8. データ型リファレンス

関数リファレンス

関数リファレンス

double値の丸め

double値の丸め

データ統合
は、ダウンストリームフィールドのデータ型に応じて、doubleデータ型の値を15桁に丸めます。
doubleデータ型はIEEE 794標準に準拠します。データベースクライアントライブラリへの変更、データベースの異なるバージョン、システム実行時ライブラリへの変更は、算術的に同等な値のバイナリ表現に影響します。また、多くのシステム実行時ライブラリは偶数丸め方法や対称算術法を実装しています。偶数丸め方法は、数字が次の上下の数の中間にある場合、偶数の最小位ビットの最も近い値に丸められます。たとえば、偶数丸め方法では、0.125は0.12に丸められます。対称算術法では末尾桁が5以上の場合は次の桁に丸められます。たとえば、対称算術法では0.125は0.13に丸められ、0.124は0.12に丸められます。
ソーストランスフォーメーションのdoubleデータ型フィールドがダウンストリームトランスフォーメーションのdecimalまたはstringデータ型フィールドに接続されている場合、
データ統合
では、有効数字15桁を超える桁は丸められずに保持されます。他のすべてのダウンストリームフィールドデータ型の場合、
データ統合
はdoubleデータ型の値を15桁に丸めます。例えば、Windowsで計算を実行すると、数値1234567890.1234567890が返され、同じ計算をUNIXで実行すると、1234567890.1234569999が返される場合、
データ統合
はこの数値を1234567890.1234600000に変換します。