07/02/12 23:58:34 qm1MZFgG0
お前らにちょっと聞きたいことがあるんだが、
32bitの符号なし固定小数点形式(整数部16bit、小数部16bit)で、非負数の数値の
数値を表現するコンピュータがある。このコンピュータで、無限級数
∞ 1
Σ = -
n=1 2^n
の値を求めたい。この無限級数を有限和
∞ 1
Σ = -
n=1 2^n
で近似するとき、誤差が10^-3以下になるNの中で最小になるものを選んでほしいんだよ。
簡単だろ。
ア9 イ10 ウ11 エ16
07/02/12 23:58:34 qm1MZFgG0
お前らにちょっと聞きたいことがあるんだが、
32bitの符号なし固定小数点形式(整数部16bit、小数部16bit)で、非負数の数値の
数値を表現するコンピュータがある。このコンピュータで、無限級数
∞ 1
Σ = -
n=1 2^n
の値を求めたい。この無限級数を有限和
∞ 1
Σ = -
n=1 2^n
で近似するとき、誤差が10^-3以下になるNの中で最小になるものを選んでほしいんだよ。
簡単だろ。
ア9 イ10 ウ11 エ16