【新型コロナ】国立国際医療研究センター「オミクロン感染者は2回のワクチン接種者でもウイルス排出期間が長引いている可能性」 [かわる★]at NEWSPLUS
【新型コロナ】国立国際医療研究センター「オミクロン感染者は2回のワクチン接種者でもウイルス排出期間が長引いている可能性」 [かわる★] - 暇つぶし2ch277:ニューノーマルの名無しさん
22/01/11 05:32:24.51 9B/jTOuR0.net
>>271
パソコンにおける計算は、無限小数を扱う事ができず、つまり真値が無限小数であった場合
小数点何桁で切り上げ・切り捨て・四捨五入のように、内部では真値とし計算していない事が原因により、
計算結果が真の値からずれだ(誤差を含んだ)値を返す事もあるだろう。
それは変数型の宣言:×・÷・+・-の計算手順(カッコをつけ計算の優先順位を指定すると、計算結果が変化する場合がある事に気づくだろう。)
Excelは計算において、内部に何かの仕様上の制限・制約が存在し、真の値ではない、大きくずれた値を返す場合がある事にも注意が必要である。
これを「 Excelの仕様上 」の誤差と呼ぶ(岐阜のおじちゃんが名付け親)。十分に注意されたい。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch