为什么 Empower 中的自定义字段会采用不同的舍入方式？ - WKB191261

环境

• Empower
• Oracle
• Microsoft Windows

答案

值的差异与 Microsoft 和 Oracle 定义双精度浮点数的方式有关。在计算出结果但存储结果之前，数字形式由 Microsoft 的操作系统规则控制。保存后，结果的数字形式受 Oracle 规则约束。

示例：

自定义字段 CM001 的公式为 = SST3.1（峰面积/峰高）。

只有 PQ Unk 1 样品具有 SST3 标签。这意味着对于所有其他样品，CM001 计算始终参考 PQ Unk 1 样品的峰面积/峰高。因此，所有样品的 CM001 值应相同，但实际情况并非如此。

在本例中，PQ Unk1 的 CM001 是在处理 PQ Unk1 期间确定的，因此是根据已确定但尚未存储在 Oracle 数据库中的 Area（峰面积）和 Height（峰高）值计算的。因此，计算值受 Microsoft 规则约束。

处理 PQ Unk 1 后，结果和值将存储在 Oracle 数据库中并受 Oracle 规则管理。然后这些值可用在后续样品中。

处理其他样品结果时，将检索存储在 Oracle 数据库中的 PQ Unk 1 的峰面积和峰高，并确定 CM001。

因此，对于第一个处理结果，CM001 值的小数点后第 n 位可能与其他结果的 CM001 值略有不同。

与所有其他处理样品相比，PQ Unk 1 的丙酮和苯乙酮值在小数点后 14 位处有所不同。

附加信息

另请参阅 TECN1851937。

• https://www.exploringbinary.com/floating-point-converter/ 
• https://www.rapidtables.com/convert/number/binary-to-decimal.html