高校数学の質問スレPart408at MATH
高校数学の質問スレPart408 - 暇つぶし2ch552:132人目の素数さん
20/11/17 00:06:16.38 UJMPy762.net
>>524
プログラムにバグはないなら正しいプログラム解。
紙とペンで出した答と一致するとは限らない。
丸め誤差以外に、内部計算は二進法だからこういうことが起こる
> (1.2-1)*5==1
[1] FALSE
> (1.2-1)*5>1
[1] FALSE
> (1.2-1)*5<1
[1] TRUE
> (1.125-1)*8==1
[1] TRUE
> (1.125-1)*8>1
[1] FALSE
> (1.125-1)*8<1
[1] FALSE


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch