22/11/19 09:26:10.24 V+G0Ric3M.net
プログラムは日常的に誤差を最小にするように作るもの
例えば1/3=0.33と置くからいけない
0.33 x 6 = 1.98
1/3は1/3のまま扱えばいいだけ
1/3 x 6 = 2
普通に電卓でも同じで
6/3 x 2 =2
と計算しないといけない
こんな単純なケースばかりじゃないけどやれば意味は理解できる
そこをどう扱うかが常に気をつけるようになる
22/11/19 09:26:10.24 V+G0Ric3M.net
プログラムは日常的に誤差を最小にするように作るもの
例えば1/3=0.33と置くからいけない
0.33 x 6 = 1.98
1/3は1/3のまま扱えばいいだけ
1/3 x 6 = 2
普通に電卓でも同じで
6/3 x 2 =2
と計算しないといけない
こんな単純なケースばかりじゃないけどやれば意味は理解できる
そこをどう扱うかが常に気をつけるようになる