09/01/26 13:03:46
>>699
roundで丸めるのではなく、不動小数点の10のベキ乗表記を小数点第何位までにするかという設定（要するに0の極限値の設定方法）があった気がしたので、そのやり方がわからないのです。
>>701
ネイピア数の定義がよくわかってなくてすみませんでした。
おっしゃるとおり6.1232 × 10 ^ -17です。
09/01/26 13:03:46
>>699
roundで丸めるのではなく、不動小数点の10のベキ乗表記を小数点第何位までにするかという設定（要するに0の極限値の設定方法）があった気がしたので、そのやり方がわからないのです。
>>701
ネイピア数の定義がよくわかってなくてすみませんでした。
おっしゃるとおり6.1232 × 10 ^ -17です。