目录

Search

  1. 前言
  2. 使用 Designer
  3. 使用源
  4. 使用平面文件
  5. 使用目标
  6. 映射
  7. Mapplet
  8. 映射参数和变量
  9. 使用用户定义的函数
  10. 使用调试器
  11. 查看数据沿袭
  12. 比较对象
  13. 管理业务组件
  14. 创建多维数据集和维度
  15. 使用映射向导
  16. 附录 , A: 数据类型引用
  17. 附录 , B: 配置 Web 浏览器

Designer 指南

Designer 指南

计算中的小数值和双精度型值

计算中的小数值和双精度型值

下表列出了 PowerCenter 集成服务根据高精度配置处理十进制值的方式:
端口数据类型
精度
高精度关闭
高精度开启
小数
0 到 15
小数
小数
小数
15 至 28
双精度型
小数
小数
超过 28
双精度型
双精度型
如果启用高精度,PowerCenter 集成服务会将任何表达式函数中的数值常量转换为十进制。如果未启用高精度,PowerCenter 集成服务会将数值常量转换为双精度。
您可以保持超过 28 或 38 位数的数值的最大精度,具体取决于转换。使用转换函数执行任何计算或转换之前,请截断或舍入多位数。
对于支持精度高达 28 位数的十进制数据类型的转换,请使用十进制数据类型并启用高精度,以确保实现高达 28 位数的精度。
不要为等式条件(如查找或联接条件)中使用的数据使用双精度型数据类型。