Tablora

Tablora · Knihovna

Zachovejte viditelné malé desetinné příspěvky

Sečtěte přesně 1.2 a 0.003 a dostanete 1.203. Kontrola zachová největší počet desetinných míst, který uvidí, takže malé příspěvky se nikdy neztratí zaokrouhlením.

Hodnoty s různým počtem desetinných míst

Skutečná data míchají přesnost: jednotková cena se třemi nebo čtyřmi desetinnými místy, poplatek zaokrouhlený na centy, množství v celých číslech. Když je sečtete v nástroji, který výsledky formátuje na dvě místa, malý příspěvek jako 0.003 může ze zobrazeného součtu zmizet a dva součty lišící se ve třetím desetinném místě vypadají stejně.

Kontrola desetinného součtu zjistí největší počet desetinných míst mezi všemi hodnotami a očekávaným součtem, každou hodnotu na něj převede a sečte je přesně. Nic se nezaokrouhlí a výsledek se zobrazí s touto plnou přesností.

Do přesnosti se počítá i Očekávaný součet. Zadáte-li tam 1.20300, každé číslo ve výsledku se zobrazí na pět desetinných míst, i když tolik nemá žádný řádek.

Sčítání 1.2 a 0.003

Příklad na stránce zadává do Jedna hodnota na řádek čísla 1.2 a 0.003 s Očekávaný součet 1.203. Vypočtený součet je 1.203 a Rozdíl 0.000, takže Součty se shodují ukazuje Ano. Výsledek má tři desetinná místa, protože tolik jich má 0.003 i očekávaný součet.

Všimněte si, že rozdíl je zobrazen jako 0.000, ne jako 0. Všechna čísla ve výsledku mají stejnou přesnost, takže se v nich malé rozdíly snadno čtou.

Zadávání hodnot různé přesnosti

Zaokrouhlení patří do samostatného kroku

Zachování přesnosti je vlastnost přesné aritmetiky, ne finanční pravidlo zaokrouhlování. Bylo-li číslo, se kterým porovnáváte, zaokrouhleno na centy, rozhodněte nejprve, zda zdroj zaokrouhloval každý řádek, nebo jen součet, a toto pravidlo před porovnáním použijte sami. Kontrola pak ukáže, zda zaokrouhlené číslo sedí.

Normalizátor čísel se u jednotlivých hodnot chová stejně: ponechá zapsané desetinné číslice, takže 125.00 zůstane 125.00 a 0.003 zůstane 0.003, místo aby se zkrátily.

Vstupy

Jedna hodnota na řádek
1.2 0.003
Očekávaný součet
1.203

Výsledky

Vypočtený součet
1.203
Rozdíl
0.000
Součty se shodují
Ano