Tablora · ライブラリ
元の精度と行ごとの丸めを区別する
0.335と0.335の和は0.670ですが、先に各行を丸めると0.68になります。照合ツールでの丸め段階の差の見え方と、両方を試す方法を説明します。
1つの合計に2つの正しい答え
請求書、税額の集計、給与計算では、通貨が許すより多くの小数点以下の桁を持つ金額がよく出てきます。正確な値を足してから合計を丸めるシステムもあれば、各行を先に丸めてから足すシステムもあります。どちらも正当で、同じデータでも1セント以上食い違うことがあります。どちらが適用されるかを決めるのは、計算ではなく、書類の背後にある請求、税、会計の規則です。
小数の合計照合ツールは、渡された文字列を正確に足すだけで、丸めは一切しません。そのため、記載された合計がどの段階で丸められたかを確かめるのに向いています。
差は行数が増えるほど大きくなりがちです。1セント未満の端数が切り上げられるたびに差が積み重なるので、長い請求書では2つの方法で1セント以上違うことがあります。
0.335の例を計算する
このページの例では、0.335と0.335を入力し、「照合する合計」は0.68です。「計算した合計」は0.670、「照合する合計」は同じ桁数で0.680と表示され、「差」は-0.010になります。「合計が一致」は「いいえ」です。
次に、各行を小数点以下2桁に丸めた後の形、0.34と0.34で入力します。「照合する合計」が同じ0.68なら、「計算した合計」は0.68、「差」は0.00です。記載された数字は、合計を丸めたのではなく、各行を丸めてから足して作られたものだと分かります。
どの段階が使われたかを試す
- まず、元データの精度のまま各行を入力し、「差」を控えます。
- 次に、書類の規則どおりに丸めた各行を入力し、もう一度計算します。
- 両方の結果を記載された合計と比べます。一致したほうが、丸めの段階を教えてくれます。
- 数字を確認する人が同じ手順を再現できるよう、適用した規則を書き留めます。
- どちらも一致しなければ、差は丸めの問題ではありません。抜けている行や読み間違えた行を探してください。
避けたい精度の落とし穴
- 小数点以下2桁の書式の列から値をコピーする。正確な計算に必要な小数第3位が、表示で隠れているかもしれません。
- 丸め済みの行と正確な行を1回の計算に混ぜる。
- -0.010の差を、行を足して直すべき誤りとみなす。これは丸め方の選択から当然生じる結果です。
- 丸め方が1つだけだと思い込む。四捨五入、偶数丸め、切り捨てでは行の値が変わることがあります。規則が定める方法を適用してください。
- TabloraアプリのXLSX書き出しでは、数値の列と判断された金額は本物の数値になり、小数を含むセルには小数点以下2桁の数値書式が付きます。そのため0.335のような値は、セルには0.335が入っていても0.34と表示されることがあります。表示だけでなく、セルの値を確認してください。
入力値
- 1行に1つの値
- 0.335 0.335
- 照合する合計
- 0.68
結果
- 計算した合計
- 0.670
- 差
- -0.010
- 合計が一致
- いいえ