double浮動小数点数が8バイトなので、8バイトx(10000x10000)=800,000,000バイト=762.9MBなので消費メモリの計算は大体合ってますね…
チャンネルに入会
フォロー
科学はすべてを解決する!! ニコニコ秘密基地
(ID:370508)
double浮動小数点数が8バイトなので、8バイトx(10000x10000)=800,000,000バイト=762.9MBなので消費メモリの計算は大体合ってますね…