Que Decimal ne soit pas très fort à représenter des non-decimaux, c'est pas trop nouveau comme idée. Mais c'est bien de me ressortir le même argument pour la 10e fois, ça me permet de m'entraîner à répondre.
Float :
- 1/3 n'est pas représentable. Erreur de l'ordre de 10-17 (Evalué par un "1.0 - 2/3" en Python v3)
- 0.1 n'est pas représentable : Erreur de l'ordre de 10-17
Decimal :
- 1/3 n'est pas représentable. Erreur de l'ordre de 10-28 par défaut, mais on peut baisser sur simple demande pour ne pas choquer ceux qui préfèrent la précision des float (et sûrement pour économiser du CPU, ne nous cachons pas)
- 0.1 est représentable. Pas d'erreur.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.
[^] # Re: Rien de surprenant
Posté par gUI (Mastodon) . En réponse au journal [Humour] vers un monde différent. Évalué à -3.
Que Decimal ne soit pas très fort à représenter des non-decimaux, c'est pas trop nouveau comme idée. Mais c'est bien de me ressortir le même argument pour la 10e fois, ça me permet de m'entraîner à répondre.
Float :
- 1/3 n'est pas représentable. Erreur de l'ordre de 10-17 (Evalué par un "1.0 - 2/3" en Python v3)
- 0.1 n'est pas représentable : Erreur de l'ordre de 10-17
Decimal :
- 1/3 n'est pas représentable. Erreur de l'ordre de 10-28 par défaut, mais on peut baisser sur simple demande pour ne pas choquer ceux qui préfèrent la précision des float (et sûrement pour économiser du CPU, ne nous cachons pas)
- 0.1 est représentable. Pas d'erreur.
En théorie, la théorie et la pratique c'est pareil. En pratique c'est pas vrai.