プログラミングの為の数学と算数 vol.2at TECHプログラミングの為の数学と算数 vol.2 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト432:デフォルトの名無しさん 06/03/10 15:50:22 サンプルを少数表記じゃなくて整数比で示してくれないか？ その方が解析しやすい。 433:デフォルトの名無しさん 06/03/10 15:55:04 知ってるかどうか知らないが、 小数点以下の数を10進表記するとそれだけで誤差が含まれる。 だからこの場合、実数に換算しないで考えたほうがよい。 つまり計算させてる事例に関わる整数の比がないと 何が行われているか正確なことはわからない。 LPtoDP()ってことは窓の大きさとディスプレイの解像度が絡むんだろ？ 434:デフォルトの名無しさん 06/03/10 16:18:42 固定少数点で負数の時だけ処理するのを条件判断を使わずにやりたいなら、 ret = (2 * a + b*sgn) / (2 * b); として sgn を 1か-1にすればいい あるいは ret = (2 * a + b*(sgn+1)-b) / (2 * b); とすれば sgn+1 は 0か2なので 0か-1の変数fを使い ret = (2 * a-b + 2*b&f) / (2 * b); xor結果の最上位で fを-1か0にすればいい ・右へのビット幅だけシフト ・インラインアセンブラを使って符号拡張命令 して、符号ビットを埋めて ゴチャゴチャやる方法があるけど、そんなの使いたい？ 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch