Pythonのお勉強 Part68at TECHPythonのお勉強 Part68 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト157:デフォルトの名無しさん 22/09/28 19:37:21.94 9I9ISsCh.net >>154 ありがとうございます やはり至るところで誤差が発生するのですね 四捨五入は今回の用途ではどちらでも良い感じです せっかくなのでまとめてみました https://ideone.com/JmTu06 ありがとうございました 158:デフォルトの名無しさん 22/09/28 19:42:02.44 o0cHd3Tq0.net 先にIEEE754読んでみては？ 誤差に関しての勘所がわかるようになる 159:デフォルトの名無しさん 22/09/28 20:32:50.93 x5UMfEp40.net Pythonに限らず浮動小数点数を使う場合は常に誤差の問題がつきまとう。 0.1というのがすでに二進数ではきっちり表現できない数字なので、有効数字を何桁にするのかというのは実装の段階で決めなくちゃならない。 https://docs.python.org/ja/3/tutorial/floatingpoint.html 正確に表現できるのは、0.5,0.25,0.125...と1を2で割っていった数とその整数倍のみ 0.1は1/(2×5)となり1/5が2進数では循環小数となり浮動小数点数では正確に表せない。 ということを念頭に置いてまず何がやりたいか考えた方がいいよ。 decimalモジュールは便利そうだね。 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch