Microsoft Visual C++ Toolkit 2003 質問箱at TECH
Microsoft Visual C++ Toolkit 2003 質問箱 - 暇つぶし2ch462:デフォルトの名無しさん
05/10/26 18:11:43
>>452
8bitで表わせる範囲の数(0-255)であっても
16bit(WORD)で演算するのはちょっと精度不足だよ。
せいぜい10bit程度しかシフトできないんで、DWORDで計算するのとでは
誤差の出方が違ってくる。
実際プログラミングして試してみれ。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch