Retourner au contenu associé (entrée de forum : Régression linéaire sur grands entiers)
Posté par tmp le 22 décembre 2016 à 12:13. En réponse au message Régression linéaire sur grands entiers. Évalué à 2.
Bon vu la précision de datation, je peux augmenter le quantum date (1ns vers 1 us) et celui du compteur (1,6ns vers 1,6us). Du coup je passe à l'aise en double.
AltStyle によって変換されたページ (->オリジナル) / アドレス: モード: デフォルト 音声ブラウザ ルビ付き 配色反転 文字拡大 モバイル
[^] # Re: Utiliser la virgule flottante
Posté par tmp . En réponse au message Régression linéaire sur grands entiers. Évalué à 2.
Bon vu la précision de datation, je peux augmenter le quantum date (1ns vers 1 us) et celui du compteur (1,6ns vers 1,6us). Du coup je passe à l'aise en double.