プログラミングの為の数学と算数 vol.2at TECHプログラミングの為の数学と算数 vol.2 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト437:423 06/03/10 18:03:48 追加情報で、ウィンドウ領域とビュー領域の数値は32bit(int型)で設定可能なのですが MSDNで調べたところウィンドウ領域は32bitを保証してビューポートは27bitしか保証しないと 明記されてます。 残り5bitを小数部とした固定小数点で計算とかをしているんですかね？ 438:434 06/03/10 18:21:37 >>436 折角書いてやったんだから、ちゃんと読め！ いいか その>>424のバージョンB ってのは a/bの符号によって 符号負 ret = (2 * a - b) / (2 * b); 符号正 ret = (2 * a + b) / (2 * b) としたいわけだろ？ 符号を sgn +1/-1 なら ret = (2 * a - b*sgn) / (2 * b); だろが！ 439:デフォルトの名無しさん 06/03/10 18:57:40 >>438 論外 ポイントになるのは、0.1刻みとして(-2.5～-1.6), (-1.5～-0.6), (-0.5～0.4), (0.5～1.4) をどうやって同じグループにするかということ 440:デフォルトの名無しさん 06/03/10 19:21:54 素直に floor(val + 0.5) いっとく？ 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch