08/02/23 12:18:37
x86のFPUは、80ビット精度と64ビット精度が存在する。
SSE2は64ビット精度。
とかそのへんの問題かな?
>>551に一票。
浮動小数点演算の検算で精度気にしすぎると禿げるぞ。
ε使えε
08/02/23 12:18:37
x86のFPUは、80ビット精度と64ビット精度が存在する。
SSE2は64ビット精度。
とかそのへんの問題かな?
>>551に一票。
浮動小数点演算の検算で精度気にしすぎると禿げるぞ。
ε使えε
08/02/23 12:18:37
x86のFPUは、80ビット精度と64ビット精度が存在する。
SSE2は64ビット精度。
とかそのへんの問題かな?
>>551に一票。
浮動小数点演算の検算で精度気にしすぎると禿げるぞ。
ε使えε