Perlについての質問箱 43箱目at TECH
Perlについての質問箱 43箱目 - 暇つぶし2ch528:デフォルトの名無しさん
10/06/09 11:53:33
printf "%.2f\n", 90.1730;
printf "%.2f\n", 90.1740;
printf "%.2f\n", 90.1750;
printf "%.2f\n", 90.1760;
printf "%.2f\n", 90.1770;

printf "%.2f\n", 90.1630;
printf "%.2f\n", 90.1640;
printf "%.2f\n", 90.1650;
printf "%.2f\n", 90.1660;
printf "%.2f\n", 90.1670;

この処理ですが、上の段は、5捨6入しているのですが、
下の段は4捨5入の処理をしています。

90.17
90.17
90.17
90.18
90.18

90.16
90.16
90.17
90.17
90.17

いろいろと試したのですが、printfがどういったルールで
丸めの処理をしているのかまったくわかりませんでした。
ググッてもこの処理の違いに関する説明もでてきません。
この処理の違いがわかる人はいませんか?


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch