エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
ここにツイート内容が記載されます https://b.hatena.ne.jp/URLはspanで囲んでください
Twitterで共有ONにすると、次回以降このダイアログを飛ばしてTwitterに遷移します
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
普通に考えると「0.3」ですが、実際には0.3にはなりません。 正解は「0.30000000000000004」です。(値は... 普通に考えると「0.3」ですが、実際には0.3にはなりません。 正解は「0.30000000000000004」です。(値は環境によって変わる可能性があります) 数値計算の誤差を気にしない場合は問題ないのですが、そこそこ正確に数値計算を行う場合は、色々と工夫が必要です。 なので、この記事では小数計算の誤差を回避する方法についてまとめたいと思います。!(^^)! 言語はPythonなので悪しからず、、 そもそもコンピュータにおける小数点の扱いについて まず、前提として2進数における小数点の扱いについて解説します。10進数の小数を2進数に変換するためには、小数部分のみを2倍して、その結果の整数部分を使います。 例えば、「0.875」を2進数に変換する方法は下記となります。