C言語(GCC)でマシンイプシロンを求めたいとき、 floatとdoubleで同じ値が表示されるというわけの分からない状態になったのを目撃した。
x86系CPUの浮動小数点演算用レジスタはなぜか80bitなので、わけわからないことになるのかもしれない。
GCCのコンパイラオプション-ffloat-storeをつけてコンパイルすることでうまくいった。
0 件のコメント:
コメントを投稿