データ解析ツールoctaveを語ろう Part 2

データ解析ツールoctaveを語ろう Part 2at UNIX

データ解析ツールoctaveを語ろう Part 2 - 暇つぶし2ch165:名無しさん＠お腹いっぱい。
11/09/27 09:00:38.67 .net
>>163
倍精度複素数16bitではなくて16Bytesの間違いでした

全部の変数で2GB未満しかアロケート出来ないっぽいです
2^32は42億9496万7296でしたか、つまり4Gですが
CPUは2の補数をとった2Gまでしかアクセスできないのでしょう

次ページ

続きを表示

1を表示