Tablora · ライブラリ

小さな小数の寄与を失わずに残す

1.2と0.003を正確に足して1.203にします。照合ツールは見つかった最大の小数桁数を保つので、小さな値が丸めで消えることはありません。

小数点以下の桁数が違う値

実際のデータでは精度が混在します。小数点以下3〜4桁の単価、1セント単位に丸めた手数料、整数の数量などです。結果を小数点以下2桁で表示するツールでこれらを足すと、0.003のような小さな分が表示上の合計から消え、小数第3位で異なる2つの合計が同じに見えてしまいます。

小数の合計照合ツールは、すべての値と照合する合計の中で最も多い小数点以下の桁数を求め、各値をその桁数にそろえて正確に足します。何も丸められず、結果はその桁数のまま表示されます。

この桁数には「照合する合計」も含まれます。そこに1.20300と入力すれば、その桁数の行が1つもなくても、結果のすべての数字が小数点以下5桁で表示されます。

このページの例では、「1行に1つの値」に1.2と0.003を入力し、「照合する合計」は1.203です。「計算した合計」は1.203、「差」は0.000なので、「合計が一致」は「はい」になります。結果が小数点以下3桁なのは、0.003と照合する合計がどちらも3桁だからです。

差が0ではなく0.000と表示されることに注目してください。結果のすべての数字の桁数がそろっているので、小さな差も読み取りやすくなります。

桁数を保つのは正確な計算の性質であって、財務上の端数処理の方針ではありません。照合する数字が1セント単位に丸められているなら、元データが行ごとに丸めたのか合計だけを丸めたのかを先に判断し、比べる前にその規則を自分で適用してください。そうすれば、丸めた数字が一致するかを照合ツールが示してくれます。

数値列の統一ツールも、1つずつの値について同じように動作します。書かれた小数点以下の桁をそのまま保つので、125.00は125.00のまま、0.003は0.003のままで、短くされることはありません。