プログラミングのお題スレ Part10

プログラミングのお題スレ Part10at TECH

プログラミングのお題スレ Part10 - 暇つぶし2ch419:デフォルトの名無しさん
18/03/18 11:47:23.87 i8EJZcPC.net
任意のx > 0 に対して x を有効桁数n(n ∈ N)で表わした数 c は
r = 10^([log10(x)] - n + 1)
とおくと
c = [x / r] * r
なんだけど、これを丸め誤差を考慮して簡単に解析的に修正するのはちょっと骨が折れるね

次ページ

続きを表示

1を表示