为什么 Empower 中的舍入值存在差异?- WKB93357
文章编号: 93357点击此处访问英文版本文章
环境
- Empower 软件
- “查看”窗口
- 后台处理
- Oracle
- Windows OS
答案
在某些情况下,保存之前在“查看”窗口中显示的某些字段的结果可能与保存后略有不同。这是因为在保存结果之前,它们受 Microsoft 操作系统规则的约束,保存后,它们受 Oracle 规则的约束。
- Microsoft 使用电气与电子工程师协会 (IEEE) 浮点格式。
- Oracle 使用二进制编码十进制 (BCD) 格式。
- 这会直接影响数字的表示和舍入。请参阅下面提到的其他 KCS 文章和技术简报 TECN1851937。
- 在“查看”中重新打开保存的结果,或在“预览/出版”中打开保存的结果,将显示存储的字段值。
- 使用“查看”中的积分和定量功能,将显示受 IEEE 规则约束的值;因此,显示的值可能会有所不同。
附加信息
https://support.waters.com/KB_Inf/Empower_Breeze/WKB2758_What_rule_does_Empower_use_for_rounding_significant_digits?
id93357, EMP2LIC, EMP2OPT, EMP2SW, EMP3GC, EMP3LIC, EMP3OPT, EMP3SW, EMPGC, EMPGPC, EMPLIC, EMPOWER2, EMPOWER3, EMPSW, SUP