Microsoft Visual C++ Toolkit 2003 質問箱at TECH
Microsoft Visual C++ Toolkit 2003 質問箱 - 暇つぶし2ch470:468
05/10/27 15:38:00
>>469 さんありがとぅ、でもそう言うのじゃないんです

>>462
> 8bitで表わせる範囲の数(0-255)であっても
> 16bit(WORD)で演算するのはちょっと精度不足だよ。
この場合、最大8bitの整数同士の演算結果を16bitで表すのだから
オーバーフローやアンダーフローも起こり得ないのに「精度不足」
と言うのが分からない

> せいぜい10bit程度しかシフトできないんで、DWORDで計算するのとでは
> 誤差の出方が違ってくる。
整数演算の結果をなぜシフトする必要があるのか?整数演算での誤差?


まさかとは思うが、固定小数点での演算を整数演算と言っているの?


次ページ
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch