Tablora · 资料库
让较小的小数贡献保持可见
精确地把1.2和0.003相加得到1.203。核对工具会保留它看到的最大小数位数,所以小额部分永远不会被舍掉。
小数位数不同的值
真实数据的精度参差不齐:带三四位小数的单价、精确到分的手续费、整数的数量。在把结果格式化为两位小数的工具中相加时,0.003这样的小额部分可能从显示的合计中消失,两个在第三位小数上不同的合计看起来也一样。
小数合计核对工具会找出所有值和预期合计中最多的小数位数,把每个值都换算到这个位数,再精确相加。没有任何舍入,结果也以完整的位数显示。
位数也包括“预期合计”。如果你在那里输入1.20300,即使没有一行有这么多位,结果中的每个数字也会显示到五位小数。
1.2加0.003
本页示例在“每行一个值”中输入1.2和0.003,“预期合计”为1.203。“计算合计”为1.203,“差值”为0.000,所以“合计一致”显示“是”。结果有三位小数,因为0.003和预期合计都有三位。
注意差值显示为0.000,而不是0。结果中每个数字的位数都相同,小差额因此一目了然。
输入精度不一的值
- 完整复制每个值的所有数字;不要因为源列格式是两位小数就把0.003缩成0.00。
- 小数前要写前导零。.003这样的值不被接受。
- 用点作为小数符号,不要用数位分组符;其他写法请先用数值规范化工具转换。
- 检查“计算合计”的位数。如果小数位比预期多,说明其中某个值比其他值更精确。
- 如果原始资料显示末尾的零,就保留它们。1.20和1.2金额相同,但多出的一位会改变结果的位数。
舍入属于另一个步骤
保留位数是精确运算的特性,不是财务舍入政策。如果你要核对的数字被舍入到分,请先判断原始资料是逐行舍入还是只对合计舍入,并在比较前自己应用这条规则。之后核对工具会显示舍入后的数字是否一致。
数值规范化工具对单个值也是如此:它保留原本写出的小数位,所以125.00仍是125.00,0.003仍是0.003,不会被缩短。
输入值
- 每行一个值
- 1.2 0.003
- 预期合计
- 1.203
结果
- 计算合计
- 1.203
- 差值
- 0.000
- 合计一致
- 是