Java入門・初心者質問スレ Part.6at TECH
Java入門・初心者質問スレ Part.6 - 暇つぶし2ch402:デフォルトの名無しさん
18/01/13 10:52:02.12 YXV8ZXe2.net
>>392
1ulpの範囲で誤差は常にあるよ
想定する入力桁数から結果のオーダーを見積もって、適切な桁数で結果を丸めてやらないとダメ


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch