Retourner au contenu associé (journal : Le retour de la vengeance de la virgule flottante)
Posté par snowball (site web personnel) le 22 janvier 2018 à 14:51. En réponse au journal Le retour de la vengeance de la virgule flottante. Évalué à 4. Dernière modification le 22 janvier 2018 à 14:53.
D'après ce que j'ai lu, il donnera plutôt 2-0.8-1.2 = -5.551115123125783e-17 ± 3e-17 (et même sûrement plus que 3e-17 vu que les trois nombres ont des exposants différents, il y a phénomène d'absorption)
AltStyle によって変換されたページ (->オリジナル) / アドレス: モード: デフォルト 音声ブラウザ ルビ付き 配色反転 文字拡大 モバイル
[^] # Re: Ne règle pas le "problème" du journa précédent
Posté par snowball (site web personnel) . En réponse au journal Le retour de la vengeance de la virgule flottante. Évalué à 4. Dernière modification le 22 janvier 2018 à 14:53.
D'après ce que j'ai lu, il donnera plutôt 2-0.8-1.2 = -5.551115123125783e-17 ± 3e-17
(et même sûrement plus que 3e-17 vu que les trois nombres ont des exposants différents, il y a phénomène d'absorption)