跳转到主内容
Waters China

自定义字段根据处理进样的顺序提供不同的值 - WKB204968

故障描述

  • 在 10 个结果中,两个值之间存在差异
  • 差异会根据进样是在 1 到 10 还是在 10 到 1 中处理而发生变化
  • 自定义字段:ROUND(SAME.%..AVE(ROUND(CU_pcnt,-1)),-1)

clipboard_ee2f2e5f0b93199a86bed5d3d0955328f.png

环境

  • Empower 软件
  • 结果
  • 自定义字段
  • 报告出版

原因

ROUND 函数已嵌入 AVE 函数中。

解决方法

  1. 请勿在自定义字段的其他功能通道中嵌入 ROUND 函数。
  2. 请勿使用 ROUND 函数计算用于其他计算的中间值。
  3. 重写此综合自定义字段 AV_mean;ROUND(SAME.%..AVE(ROUND(CU_pcnt,-1)),-1) as ROUND(SAME.%..AVE(CU_pcnt),-1)。

附加信息

Round 函数的实现允许用户以指定的精度比较数字。它的设计目的不是计算一个值,然后在另一个计算中用作中间值。

请注意,Round(舍入)函数导致的精度损失可确保舍入数字的总和和平均值与未舍入数字的总和和平均值不同。

用户不能期望从基于舍入值的自定义字段中获得最准确的结果。在自定义字段公式中使用 Round 函数会导致计算出的数字(有效数字)丢失精度。结果值是一个不同的数字,由于精度损失,其准确度低于原始值。

请参阅 - WKB199470TECN134632666TECN1851937

id204968, EMP2LIC, EMP2OPT, EMP2SW, EMP3GC, EMP3LIC, EMP3OPT, EMP3SW, EMPGC, EMPGPC, EMPLIC, EMPOWER2, EMPOWER3, EMPSW, SUP