08/02/22 18:17:34
>>219
俺にも詳しく。具体例で。
・O(1)のベクトルA：(1.2, 2.3) ※ いずれの要素も有効桁16
・O(10^-14)のベクトルB：(1.1e-14, 4.5e-14) ※ いずれの要素も有効桁16
があったとしよう。この時点でBの単位ベクトルを求めても文句ないよな？
↓
ベクトルAでもの凄い計算
↓
・ベクトルA'：(2.46...1, 3.96...7) ※ 有効桁14に減少
・ベクトルB：(1.1e-14, 4.5e-14) ※ やっぱり有効桁16
ここまではいいんだよな？
さてと、ここから「O(10^-14)で有効桁１のベクトルC」が登場するまでのシナリオが思いうかばねぇ。
> O(10^-14) のベクトルは数値誤差と同程度のオーダーのベクトルだから、
> １桁目にも数値誤差がてんこもりの恐れがあるってことだ。
てのはそういうことだよな？
あるいは既にベクトルA'の一部に、O(10^-14)で有効桁14な要素が出現してたりするのか？…
とりあえず全ベクトルの全要素は同じ単位の比例尺度で、ベクトル間要素間の加減乗除何でもアリというシナリオルールにしておこう。温度計（間隔尺度シバリ）の話はとりあえず後回しだ。