Argument 2, le nombre entré n'est pas le nombre stocké. D'accord. Mais ça doit venir de l'encodage des nombres en virgule flottante. Par contre, ça, c'est complètement faux :
Entered value Stored value Rounding error
123456.123456 123456.123456 0
12345.12345 12345.123449999999 o(1e-5)
1234.1234 1234.1233999999999 o(1e-4)
...
Not only there is a rounding error, but its order of magnitude changes depending on the value.
Dans les deux cas, l'erreur est du même ordre relatif, car ~10^(-12)/12345 et ~10^(-13)/1234 me semble des valeurs assez proches. Bah oui, la différence entre 12345.12345 et 12345.123449999999, c'est pas 1e-5, mais 1e-12.
[^] # Re: OOXML is defective by design
Posté par Nicolas Schoonbroodt . En réponse à la dépêche Pas de trève estivale pour la guerre des formats bureautiques. Évalué à 3.
Dans les deux cas, l'erreur est du même ordre relatif, car ~10^(-12)/12345 et ~10^(-13)/1234 me semble des valeurs assez proches. Bah oui, la différence entre 12345.12345 et 12345.123449999999, c'est pas 1e-5, mais 1e-12.