Tablora

Tablora · Bibliothèque

Vérifier 0.10 plus 0.20 avec des décimales exactes

Vérifiez que 0.10 plus 0.20 donne exactement 0.30 grâce à l’arithmétique décimale, et comparez un total indiqué sans artefacts d’affichage en virgule flottante.

Pourquoi 0.1 plus 0.2 peut sembler faux

Beaucoup de programmes stockent les nombres en virgule flottante binaire, où 0.1 et 0.2 n’ont pas de représentation exacte. Additionnez-les et le résultat stocké dépasse 0.3 d’un cheveu ; selon la mise en forme, vous verrez 0.30000000000000004 ou une comparaison qui affirme que les valeurs ne sont pas égales. Dans un rapprochement, ce genre d’artefact ressemble à un écart qui n’existe pas vraiment.

Le vérificateur de sommes décimales l’évite. Il lit chaque valeur comme une chaîne décimale, ramène toutes les valeurs au même nombre de décimales et les additionne comme des nombres entiers : 0.10 et 0.20 donnent donc exactement 0.30.

Saisir les lignes

Résultat pour 0.10 et 0.20

Avec les valeurs 0.10 et 0.20 et un « Total attendu » de 0.30, le « Total calculé » est 0.30, la « Différence » est 0.00 et « Les totaux correspondent » affiche Oui. Le résultat garde deux décimales, car c’est le plus grand nombre de décimales parmi les valeurs saisies et le total attendu.

La « Différence » est toujours le total calculé moins le total attendu : une différence négative signifie que les lignes saisies n’atteignent pas le chiffre indiqué.

Préparer les valeurs d’un vrai tableau

Les montants copiés depuis un relevé arrivent rarement sous forme canonique. Passez d’abord la colonne dans l’outil de normalisation, en choisissant les séparateurs décimal et de groupes qu’utilise le document, puis copiez les valeurs converties dans le vérificateur. Une valeur que l’outil de normalisation a mise de côté n’est pas prête pour la somme ; réglez-la avant de vous fier au total.

Le vérificateur fait un calcul exact sur ce que vous saisissez, rien de plus. Il ne convertit pas les devises, n’applique ni taxe ni règle d’arrondi et ne vous dit pas si chaque enregistrement a bien été saisi.

Les saisies que le vérificateur refuse

Données d’entrée

Une valeur par ligne
0.10 0.20
Total attendu
0.30

Résultats

Total calculé
0.30
Différence
0.00
Les totaux correspondent
Oui