Kontroller 0.10 pluss 0.20 med nøyaktige desimaler

Hvorfor 0.1 pluss 0.2 kan se feil ut

Mange programmer lagrer tall som binære flyttall, der 0.1 og 0.2 ikke kan gjengis nøyaktig. Legger du dem sammen, havner det lagrede resultatet en anelse over 0.3; avhengig av formateringen kan du se 0.30000000000000004 eller en sammenligning som sier at verdiene ikke er like. I en avstemming ser en slik effekt ut som et avvik som egentlig ikke finnes.

Summekontrollen unngår dette. Den leser hver verdi som en desimalstreng, skalerer alle verdiene til samme antall desimaler og legger dem sammen som heltall, så 0.10 og 0.20 blir til sammen nøyaktig 0.30.

Skriv inn linjene

• Skriv eller lim inn beløpene i Én verdi per linje. Tomme linjer ignoreres, og mellomrom rundt en verdi fjernes.
• Bruk kanonisk desimalform: et valgfritt minus foran, sifre og et punktum før desimalene. Grupperingskomma, desimalkomma, plusstegn og valutabetegnelser avvises.
• Skriv tallet du vil kontrollere, i Forventet sum, på samme måte.
• Trykk på Beregn, og les Beregnet sum, Forventet sum, Forskjell og Summene stemmer.

Resultat for 0.10 og 0.20

Med verdiene 0.10 og 0.20 og en Forventet sum på 0.30 blir Beregnet sum 0.30, Forskjell 0.00, og Summene stemmer viser Ja. Resultatet har to desimaler fordi det er det høyeste antallet desimaler blant inndataene og den forventede summen.

Forskjell er alltid Beregnet sum minus Forventet sum, så en negativ forskjell betyr at de innskrevne linjene ikke når opp til det oppgitte tallet.

Klargjør verdier fra en ekte tabell

Beløp som er kopiert fra en kontoutskrift, kommer sjelden i kanonisk form. Kjør først kolonnen gjennom normaliseringsverktøyet med desimal- og grupperingstegnene dokumentet bruker, og kopier deretter de konverterte verdiene inn i summekontrollen. En verdi som normaliseringsverktøyet holdt tilbake til gjennomgang, er ikke klar til å summeres; løs den før du stoler på summen.

Summekontrollen regner nøyaktig på det du skriver inn, og ikke noe mer. Den veksler ikke valuta, bruker ingen skatte- eller avrundingsregler og forteller deg ikke om alle postene er skrevet inn.

Inndata som avvises

• 1,234.50 med grupperingskomma eller 1234,50 med desimalkomma: konverter dem først med normaliseringsverktøyet.
• +5.00 med plusstegn: skriv 5.00.
• .50 uten null foran: skriv 0.50.
• (2.50) i parentes: skriv -2.50.
• Hvilken som helst av disse stopper hele beregningen med Kontroller de oppgitte verdiene, og prøv igjen, så en feil linje blir aldri hoppet over i stillhet.

Inndata

Én verdi per linje

0.10 0.20

Forventet sum

0.30

Resultater

Beregnet sum

0.30

Forskjell

0.00

Summene stemmer

Ja