データ解析ツールoctaveを語ろう Part 2at UNIX
データ解析ツールoctaveを語ろう Part 2
- 暇つぶし2ch332:名無しさん@お腹いっぱい。
12/03/07 14:24:18.76 .net
>>329
補足するとsingle(単精度)の有効桁は10進に治すと約6-7桁なので
それ以上の桁数の数値についての保証はなく
>>330
の方がおっしゃるように,単精度の範囲では問題ないことになります。
次ページ続きを表示1を表示最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch