跳转到主内容
Waters China

为什么 Empower 中的舍入值存在差异?- WKB93357

环境

  • Empower 软件
  • “查看”窗口
  • 后台处理
  • Oracle
  • Windows OS

答案

在某些情况下,保存之前在“查看”窗口中显示的某些字段的结果可能与保存后略有不同。这是因为在保存结果之前,它们受 Microsoft 操作系统规则的约束,保存后,它们受 Oracle 规则的约束。

  • Microsoft 使用电气与电子工程师协会 (IEEE) 浮点格式。
  • Oracle 使用二进制编码十进制 (BCD) 格式。
  • 这会直接影响数字的表示和舍入。请参阅下面提到的其他 KCS 文章和技术简报 TECN1851937
  • 在“查看”中重新打开保存的结果,或在“预览/出版”中打开保存的结果,将显示存储的字段值。
  • 使用“查看”中的积分和定量功能,将显示受 IEEE 规则约束的值;因此,显示的值可能会有所不同。

附加信息

请参阅 Empower 软件中修约值的差异

https://support.waters.com/KB_Inf/Empower_Breeze/WKB2758_What_rule_does_Empower_use_for_rounding_significant_digits?

https://support.waters.com/KB_Inf/Empower_Breeze/WKB55810_Does_adjusting_a_columns_precision_in_Empower_show_a_rounded_value

id93357, EMP2LIC, EMP2OPT, EMP2SW, EMP3GC, EMP3LIC, EMP3OPT, EMP3SW, EMPGC, EMPGPC, EMPLIC, EMPOWER2, EMPOWER3, EMPSW, SUP