今日からJavaやるからお前ら教えろよな(´・ω・`)

今日からJavaやるからお前ら教えろよな(´・ω・`)at TECH

今日からJavaやるからお前ら教えろよな(´・ω・`) - 暇つぶし2ch840:デフォルトの名無しさん
07/03/10 16:07:00
>>835
その言い方は厳密じゃないな。
誤差が生じることがある、が正解だろう。

少なくとも、2の倍数、2の逆数となる有限小数
であれば誤差は起きないのだから。

2の逆数ではない有限小数、無限小数つまり、循環小数や被循環小数(無理数)などを
使うと、10進2進変換誤差が起きる

次ページ

続きを表示

1を表示