プログラミングのお題スレ Part16at TECHプログラミングのお題スレ Part16 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト950:デフォルトの名無しさん 20/02/09 17:00:58 GpaXptWq.net >>922 AVX512にそんな命令があった気がする 951:デフォルトの名無しさん 20/02/09 17:08:19 GpaXptWq.net 意味がちがうかもちがうかも ここは出題能力の無い人が多くて困るね 952:910 20/02/09 17:25:04 W3YVjpeH.net >>919 そうかも 金山せんせーの「アセンブラプログラミング入門」で復習してくる ttps://www.kindaikagaku.co.jp/information/kd0033.htm 953:デフォルトの名無しさん 20/02/09 17:40:10 GpaXptWq.net 固定小数点 元の値をN倍して整数値として扱うのが固定小数点 100倍したら小数第2位まで扱えるし 256倍すれば2進数で小数第8位まで扱える 加減算だけなら何倍してようがそのまま扱えばいいが 乗除算があると元の値の何倍であるかを意識しないといけない N倍してる場合 乗算は c = (a * b) / N 除算は c = (a / b) * N となる a, b, c の3個とも倍率が異なっても問題無い Nは2^nであれば演算量が小さいことが多いため この形が多く使われる 固定小数点DSPでは 乗算とシフトとアキュームレータへの加算がセットになった命令を使う事が多い 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch