Re: Autre méthode

C'est pire que cela en fait, cf le bug 323 ouvert depuis 11 ans chez GCC, et qui va le rester, le flottant peut passer par les registres plus précis de la FPU aussi...

#include <iostream>
double foo(unsigned nb) {
 double sum = 0.9;
 for (unsigned i=0; i<nb;++i) sum+=0.1;
 return sum;
}
int main() {
 double diff = 1.0 - foo(1);
 std::cout << diff << std::endl;
}

Résultat attendu : 0 (c'est le cas en GCC 4.4)
Résultat obtenu : -2.77556e-17 (GCC 2.95 à 4.0 au moins, sur x86)

Palliatifs : déclarer sum comme volatile et utiliser -ffloat-store (Do not store floating point variables in registers, and inhibit other options that might change whether a floating point value is taken from a register or memory.)

Codage en binaire (IEEE float 32 bits, double 64 bits, long double 80 bits), prenons le cas des float par exemple :

• 1.0 = (-1)^0 . 2^(127-127) . (1.00000000000000000000000)
• 0.1 ~ (-1)^0 . 2^(123-127) . (1.10011001100110011001101...)
• 0.9 ~ (-1)^0 . 2^(126-127) . (1.11001100110011001100110...)

Le problème rencontré est dû à la précision excessive dans l'unité de calcul en virgule flottante (FPU). Les calculs en interne sont plus précis que les résultats renvoyés.