09/01/10 21:02:00
しまったメインの話題を途中やめにしてた
数値を文字列に変換する過程である程度の誤差を丸めてくれるなら、
>>329みたいな過程を記述する必要がないってこと
たとえruby内で記録されている値が
1.19999999999 であっても
1.20000000001 であっても
表示するときは最下位を丸めて 1.2 になると。
浮動小数点はちょっとわかりにくいからwikipediaで調べてみそ
URLﾘﾝｸ(ja.wikipedia.org)浮動小数点数
09/01/10 21:02:00
しまったメインの話題を途中やめにしてた
数値を文字列に変換する過程である程度の誤差を丸めてくれるなら、
>>329みたいな過程を記述する必要がないってこと
たとえruby内で記録されている値が
1.19999999999 であっても
1.20000000001 であっても
表示するときは最下位を丸めて 1.2 になると。
浮動小数点はちょっとわかりにくいからwikipediaで調べてみそ
URLﾘﾝｸ(ja.wikipedia.org)浮動小数点数