16/01/24 20:26:12.91 lhTTumXW.net
>>303
たとえばdoubleでとったR1の配列を表示しようとしただけでも
110としてるはずなのに110.0000000001みたいに表示してしまうし、
原理的に3Ωと2.7Ωの組み合わせがOKだったら、30kと2.7kΩの
組み合わせでも誤差は同じはずなのに計算過程で小数点以下
が微妙に異なってしまい結果にでてこなくなったりしてしまいます。
16/01/24 20:26:12.91 lhTTumXW.net
>>303
たとえばdoubleでとったR1の配列を表示しようとしただけでも
110としてるはずなのに110.0000000001みたいに表示してしまうし、
原理的に3Ωと2.7Ωの組み合わせがOKだったら、30kと2.7kΩの
組み合わせでも誤差は同じはずなのに計算過程で小数点以下
が微妙に異なってしまい結果にでてこなくなったりしてしまいます。