HSP - Hot Soup Processor [15]at GAMEDEVHSP - Hot Soup Processor [15] - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト120:名前は開発中のものです。 07/06/24 22:15:28 ocRSH5bg >>118 HSP3でD3Dを使うと実数の精度が変わるって事のような気がする 値としては64ビットを扱えるけど演算は32(16?)ビットみたいな・・・ 121:名前は開発中のものです。 07/06/24 22:31:42 fXY/Kin5 hginiだけで変わるな #include "hgimg3.as" a=0.1111111111111111 hgini b=0.1111111111111111 / 1.0 mes strf("%.20f",a) mes strf("%.20f",b) 代入までならいいけど、演算の精度はdoubleからfloat(32ビットだよ)に 変わってる。 これは変だ、あんまりだ 122:名前は開発中のものです。 07/06/24 23:07:48 fXY/Kin5 こっちのでhginiの有無で動作を比べたほうがいいな。 #include "hgimg3.as" hgini a=0.1111111111111111 b=0.1111111111111111 + 0.0 mes strf("%.20f",a) mes strf("%.20f",b) 123:名前は開発中のものです。 07/06/24 23:53:48 pviiOgcx あらー、てことはhspでDirect3Dを使う限り実数の演算には気をつけたほうがいいみたいですね。 皆さん検証サンクス。 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch