現代数学の系譜 工学物理雑談 古典ガロア理論も読む77at MATH
現代数学の系譜 工学物理雑談 古典ガロア理論も読む77 - 暇つぶし2ch80:現代数学の系譜 雑談 古典ガロア理論も読む
19/09/12 14:04:37.87 2dM7jvB/.net
メモ
URLリンク(style.nikkei.com)
ブックコラム NIKKEI STYLE
パソコンも計算間違い 0.1+0.1+0.1=0.3じゃない!?
『文系プログラマーのためのPythonで学び直す高校数学』から
2019/9/12
(抜粋)
「コンピューターの計算に間違いはない!」と信じている人は多いのでは? 今や当たり前のように身の回りの機器に組み込まれるようになったコンピューターですが、実は“苦手”とする計算があるのです。
今回は谷尻かおり『文系プログラマーのためのPythonで学び直す高校数学』(日経BP)から、担当編集者が選んだ“ちょっと面白いコンピューターの計算間違いの話”をご紹介します。
■コンピューターは“小数”の計算が苦手
最初は皆さんに計算していただきましょう。「0.1+0.1」はいくつですか?
そう、「0.2」ですね。では「0.1+0.1+0.1」は? そりゃ「0.3」です。
では、パソコンに同じ計算をしてもらいましょう。前述のプログラミング言語「Python」を使って、パソコンに直接計算式を入力します。


次ページ
続きを表示
1を表示
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch