【FPU】　浮動小数点　【SSE】

【FPU】　浮動小数点　【SSE】at TECH

【FPU】　浮動小数点　【SSE】 - 暇つぶし2ch283:デフォルトの名無しさん
08/02/26 09:22:43
>>282
なるほど。等比級数を持ち出すまでもないですね。ってゆうか確か高校で等比級数の和を
教えるときは同じような変形をするんだったかな。

浮動小数点の数値を整数分数に直してその後は分数として計算したら、精度的には
うれしい場合もあるかな?

次ページ

続きを表示

1を表示