【NVENC/VCE】ハードウェアエンコーダーを語るスレ【QSV】at AVI【NVENC/VCE】ハードウェアエンコーダーを語るスレ【QSV】 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このスレッドのURL■項目テキスト104:名無しさん@編集中 18/08/25 21:01:03.56 k4YhneCR0.net nvencの固定品質モードってのは便宜上やりとりとしてがそう呼称してるだけで ビットレートの指定を明示的に無くす事で、指定ビットレートに近づけるために量子化係数の増減調整がされなくなるから、実質上固定品質と同意の処理になるってだけ 105:名無しさん@編集中 18/08/25 21:04:45.93 DovDn/Ya0.net >>100 別に勘違いしてないよ nvidiaが用意するモデルにも興味はあるけど、既に高画質だって分かってるwaifu2xが Tensorコアを使えるようになってリアルタイムくらいの速さになればいいなって期待してる Tensorコアはfp16(半精度)で4x4の行列積を演算するコアだよ convolutionを高速に計算するためにあるんだから、 convolutionがボトルネックになってるwaifu2xも高速化できるはず 今はfp32で演算してるからfp16でも精度がなるべく落ちないようにチューニングする必要はあるだろうけど Tensorコア使ってconvolutionを計算するところはcuDNNがやってくれるから 書き換えはそんなに大変じゃないと思う 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch