Excel VBA質問スレ Part5at TECHExcel VBA質問スレ Part5 - 暇つぶし2ch■コピペモード□スレを通常表示□オプションモード□このｽﾚｯﾄﾞのURL■項目テキスト800:デフォルトの名無しさん 08/02/22 20:07:05 >>792 倍精度の前のIEEE 754って、何を規定した規格の番号ですか？ 801:デフォルトの名無しさん 08/02/22 21:39:25 >>800 ググれ 浮動小数点数の規格だ 802:デフォルトの名無しさん 08/02/22 23:55:17 >>800 Excel2000辺りは倍精度だけど、2003辺りからは拡張倍精度になっているから要注意。 前者は10進数で概ね15桁、後者は10進数で概ね19桁の精度があることになる。 803:693 08/02/23 16:40:39 解決したよ。 Origin句を定数xlWindowsから、 Shift-Jisのコードページである"932"へ変更してみたところ 文字化けなく開くことができたのでご報告。 その辺の細かな挙動の違いにだいぶ時間使いました・・・。 今後の何かの参考になれば、ということで、ひとつ。 804:デフォルトの名無しさん 08/02/23 16:45:14 VBAやEWCELのlog関数で計算して、その答えから逆算してもとに戻してみたら3桁精度しかなかったのです。 精度をあげる方法がありましたら教えてください。 次ページ最新レス表示レスジャンプ類似スレ一覧スレッドの検索話題のニュースおまかせリストオプションしおりを挟むスレッドに書込スレッドの一覧暇つぶし2ch