Pythonのお勉強 Part68at TECHPythonのお勉強 Part68 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト160:デフォルトの名無しさん 22/09/28 23:21:28.71 FDPwu/KN0.net log2で有効桁数計算出来るでしょ 161:デフォルトの名無しさん 22/09/29 00:26:06.29 3C3gpnCY0.net >>154 どちらの書き方でも -0.015 を四捨五入したら-0.02だった、すまん -0.01にしたい場合は自力でなんとかして 162:デフォルトの名無しさん 22/09/30 00:55:04.52 qun5+YRs0.net 昔から不思議なんだけど 何で分数で処理しないのかな? 最後に割り算を一回だけすれば 誤差がでないじゃないの 163:デフォルトの名無しさん 22/09/30 01:46:32.47 0IYvIpx66.net 掛け算でも足し算でも誤差が出るから 164:デフォルトの名無しさん 22/09/30 01:53:32.93 sForoGQI0.net Pythonは整数側の桁数制限が無いのを利用して高精度にできそう 165:デフォルトの名無しさん (ｱｳｱｳｳｰ Sa43-hb2l) [ここ壊れてます] .net >>160 似たような大きさの数字ならその発想もいいけどね 現実はコスパの悪い任意精度の演算が必要になることが多いのでは 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch