データ解析ツールoctaveを語ろう Part 2at UNIX
データ解析ツールoctaveを語ろう Part 2 - 暇つぶし2ch332:名無しさん@お腹いっぱい。
12/03/07 14:24:18.76
>>329
補足するとsingle(単精度)の有効桁は10進に治すと約6-7桁なので
それ以上の桁数の数値についての保証はなく 
>>330
の方がおっしゃるように,単精度の範囲では問題ないことになります。


最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch