Retourner au contenu associé (journal : SQL Decimal vs Double)
Posté par Nicolas Boulay (site web personnel) le 13 septembre 2017 à 09:03. En réponse au journal SQL Decimal vs Double. Évalué à 2.
Il y a moins d'erreur à la fin.
Pour faire le teste, il faudrait générer quelques millions de nombre et faire la somme, et recommencer avec des nombres arrondis et estimer l'erreur final. Le "round to even" devrait avoir une erreur plus faible.
"La première sécurité est la liberté"
AltStyle によって変換されたページ (->オリジナル) / アドレス: モード: デフォルト 音声ブラウザ ルビ付き 配色反転 文字拡大 モバイル
[^] # Re: Exemple simple
Posté par Nicolas Boulay (site web personnel) . En réponse au journal SQL Decimal vs Double. Évalué à 2.
Il y a moins d'erreur à la fin.
Pour faire le teste, il faudrait générer quelques millions de nombre et faire la somme, et recommencer avec des nombres arrondis et estimer l'erreur final. Le "round to even" devrait avoir une erreur plus faible.
"La première sécurité est la liberté"