07/08/07 17:49:33
>>904
俺の最初の質問に照らして読ませてもらうと、小さい
仮数部が指定された場合に、
・精度の低い浮動小数点表現に丸めた上で、残りは０を補充して格納する
・精度が大きい(greater)ぶんには特に問題なし
というのだと前者ということ？
07/08/07 17:49:33
>>904
俺の最初の質問に照らして読ませてもらうと、小さい
仮数部が指定された場合に、
・精度の低い浮動小数点表現に丸めた上で、残りは０を補充して格納する
・精度が大きい(greater)ぶんには特に問題なし
というのだと前者ということ？