Tablora

Tablora · Bibliotek

Kontrollér 0.10 plus 0.20 med nøjagtige decimaler

Kontrollér med decimalregning, at 0.10 plus 0.20 giver præcis 0.30, så en oplyst sum sammenlignes uden visningsfejl fra kommatal med flydende komma.

Hvorfor 0.1 plus 0.2 kan se forkert ud

Mange programmer gemmer tal som binære kommatal med flydende komma, hvor 0.1 og 0.2 ikke kan gengives nøjagtigt. Lægger du dem sammen, ligger det gemte resultat en anelse over 0.3; afhængigt af formateringen ser du 0.30000000000000004 eller en sammenligning, der siger, at værdierne ikke er ens. I en afstemning ligner sådan en artefakt en difference, der i virkeligheden ikke findes.

Decimalsumkontrollen undgår det. Den læser hver værdi som en decimal tegnstreng, bringer alle værdier op på samme antal decimaler og lægger dem sammen som hele tal, så 0.10 og 0.20 giver præcis 0.30.

Indtast linjerne

Resultat for 0.10 og 0.20

Med værdierne 0.10 og 0.20 og en Forventet sum på 0.30 er Beregnet sum 0.30, Forskel er 0.00, og Summerne stemmer viser Ja. Resultatet beholder to decimaler, fordi det er det største antal decimaler blandt input og den forventede sum.

Forskel er altid Beregnet sum minus Forventet sum, så en negativ forskel betyder, at de indtastede linjer ligger under det oplyste tal.

Gør værdier fra en rigtig tabel klar

Beløb kopieret fra et kontoudtog kommer sjældent i kanonisk form. Kør først kolonnen gennem ensretningsværktøjet med de decimal- og grupperingstegn, dokumentet bruger, og kopiér derefter de konverterede værdier over i kontrollen. En værdi, som ensretningsværktøjet holdt tilbage til gennemgang, er ikke klar til summen; afklar den, inden du stoler på summen.

Kontrollen regner nøjagtigt med det, du indtaster, og intet andet. Den omregner ikke valuta, anvender ikke regler om moms eller afrunding og fortæller dig ikke, om hver post blev indtastet.

Input, som kontrollen afviser

Inddata

Én værdi pr. linje
0.10 0.20
Forventet sum
0.30

Resultater

Beregnet sum
0.30
Forskel
0.00
Summerne stemmer
Ja