Tablora · 資料庫
保留微小的小數貢獻
精確相加1.2和0.003,得到1.203。核對工具保留看到的最大小數位數,所以微小的數值絕不會被進位掉。
小數位數不同的值
實際資料的精度各不相同:單價有三、四位小數,手續費進位到分,數量是整數。在把結果格式化成兩位小數的工具中相加時,0.003這樣的小數值可能從顯示的合計中消失,而第三位小數不同的兩個合計看起來也一模一樣。
小數合計核對工具會找出所有值和預期合計中最多的小數位數,把每個值都放大到這個位數,再精確相加。沒有任何進位,結果也以完整的位數顯示。
這個位數也包括「預期合計」。如果你在那裡輸入1.20300,結果中的每個數字都會顯示到小數第五位,即使沒有任何一行有這麼多位。
1.2加0.003
本頁範例在「每行一個值」中逐行輸入1.2和0.003,「預期合計」為1.203。「計算合計」是1.203,「差值」是0.000,所以「合計一致」顯示「是」。結果有三位小數,因為0.003和預期合計都是三位。
請注意差值顯示為0.000,而不是0。結果中每個數字的位數都相同,細小的差距也就容易看出來。
輸入精度不一的值
- 複製每個值的所有位數;不要因為原始欄位格式化成兩位小數,就把0.003縮成0.00。
- 小數前要寫上零。.003這樣的值不被接受。
- 以點作為小數符號,不使用數位分組符號;其他寫法請先用數值格式統一工具轉換。
- 檢查「計算合計」的位數。如果小數位數比預期多,表示其中有一個值比其他值更精確。
- 原始資料有結尾的零時就保留。1.20和1.2是同一個金額,但多出的那一位會改變結果的位數。
進位是另一個步驟
保留位數是精確運算的特性,不是財務上的進位規則。如果你要核對的數字已經進位到分,請先判斷原始資料是逐行進位還是只進位合計,自己套用那條規則後再比較。核對工具接著就會顯示進位後的數字是否一致。
數值格式統一工具處理單一值的方式也一樣:它保留原本寫出的小數位數,所以125.00仍是125.00,0.003仍是0.003,不會被縮短。
輸入值
- 每行一個值
- 1.2 0.003
- 預期合計
- 1.203
結果
- 計算合計
- 1.203
- 差值
- 0.000
- 合計一致
- 是