04/06/23 08:20
>>93
演算の精度制御は、できないみたい。
「GNU Octave Manual」によれば(p35)
numeric data is currently stored as double precision numbers.
use the IEEE floating format,
the relative precision is approximately 2.2e-16.
とある。
無論、表示の制御は、できる。C likeのフォーマットが使える。
04/06/23 08:20
>>93
演算の精度制御は、できないみたい。
「GNU Octave Manual」によれば(p35)
numeric data is currently stored as double precision numbers.
use the IEEE floating format,
the relative precision is approximately 2.2e-16.
とある。
無論、表示の制御は、できる。C likeのフォーマットが使える。