★★Java質問･相談スレッド155★★at TECH★★Java質問･相談スレッド155★★ - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト100:デフォルトの名無しさん 12/07/03 13:14:30.90 0.12を2進数に変換してみようか 101:デフォルトの名無しさん 12/07/03 14:35:49.46 十進数ならキリの良い小数でも、二進数だと循環小数だったりするから。 java.math.BigDecimalなら十進数で計算できて、有効桁数や丸めルールも 好きに設定できるから、使うといいよ。 102:デフォルトの名無しさん 12/07/03 15:51:09.10 Javaのdoubleは 0.11999999999999999555910790149937383830547332763671875 と 0.12000000000000000943689570931383059360086917877197265625 の間の数が用意されていない。 ソースに「0.12」と書くとJavaコンパイラは勝手に前者に書き換えてしまう。 そして後者が君の答えに一番近かったと判断されたのだろうね。 どうしても100等分した12にきっちりこだわるのなら、 double使ったプログラムごと捨てて作り直した方がいい。 103:デフォルトの名無しさん 12/07/04 00:42:42.59 >>102 double使って金がらみの計算するなんて自殺行為だよね。 何でdoubleなんかつかうんだろ。 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch