跳转到主内容
Waters China

为什么使用 Excel 确认 Empower 计算时会出现一些小差异?- WKB25086

环境

  • Empower 3

答案

虽然 Empower 可以显示或报告最多 14 位小数,但实数的内部计算却不限于 14 位小数,比 Excel 更精确。

在将相同方程的 Empower 值与 Excel 相比较时,出现不同的数字并不罕见,特别是在第十三和十四小数点附近。

附加信息

  • 尝试使用 Excel 验证计算时,请更改 Empower 中用于计算的字段的精度,使其显示最大精度,并在 Excel 中使用这些值。
  • 由于涉及的计算数目较多,迭代计算或复杂方程最终可能会显示 Empower 和 Excel 之间的较大差异值。
  • 您可以在 Empower 中为复杂计算和最终等式的每个单独部分创建自定义字段,其中 ROUND 函数用于将每个单独的计算限制为在 Excel 中使用相同的小数位数。您可以使用此方法更可靠地比较数字。