12/10/09 02:55:16.64
>>473
そういえば‥‥
double の仮数部は 53ビットの分解能をもっている
2^53 ≒ 10^15.955 すなわち
10^15 < 2^53 < 10^16
10^15 は 16桁
10^16 は 17桁
×doubleの有効桁数は10進で15-16桁
○doubleの有効桁数は10進で16-17桁
じゃない？
12/10/09 02:55:16.64
>>473
そういえば‥‥
double の仮数部は 53ビットの分解能をもっている
2^53 ≒ 10^15.955 すなわち
10^15 < 2^53 < 10^16
10^15 は 16桁
10^16 は 17桁
×doubleの有効桁数は10進で15-16桁
○doubleの有効桁数は10進で16-17桁
じゃない？