Tablora

Tablora · ライブラリ

元の精度と行ごとの丸めを区別する

0.335と0.335の和は0.670ですが、先に各行を丸めると0.68になります。照合ツールでの丸め段階の差の見え方と、両方を試す方法を説明します。

1つの合計に2つの正しい答え

請求書、税額の集計、給与計算では、通貨が許すより多くの小数点以下の桁を持つ金額がよく出てきます。正確な値を足してから合計を丸めるシステムもあれば、各行を先に丸めてから足すシステムもあります。どちらも正当で、同じデータでも1セント以上食い違うことがあります。どちらが適用されるかを決めるのは、計算ではなく、書類の背後にある請求、税、会計の規則です。

小数の合計照合ツールは、渡された文字列を正確に足すだけで、丸めは一切しません。そのため、記載された合計がどの段階で丸められたかを確かめるのに向いています。

差は行数が増えるほど大きくなりがちです。1セント未満の端数が切り上げられるたびに差が積み重なるので、長い請求書では2つの方法で1セント以上違うことがあります。

0.335の例を計算する

このページの例では、0.335と0.335を入力し、「照合する合計」は0.68です。「計算した合計」は0.670、「照合する合計」は同じ桁数で0.680と表示され、「差」は-0.010になります。「合計が一致」は「いいえ」です。

次に、各行を小数点以下2桁に丸めた後の形、0.34と0.34で入力します。「照合する合計」が同じ0.68なら、「計算した合計」は0.68、「差」は0.00です。記載された数字は、合計を丸めたのではなく、各行を丸めてから足して作られたものだと分かります。

どの段階が使われたかを試す

避けたい精度の落とし穴

入力値

1行に1つの値
0.335 0.335
照合する合計
0.68

結果

計算した合計
0.670
差
-0.010
合計が一致
いいえ