ラベル マシンイプシロン の投稿を表示しています。 すべての投稿を表示
ラベル マシンイプシロン の投稿を表示しています。 すべての投稿を表示

2009年11月19日木曜日

GCCでマシンイプシロンを求めたいとき

C言語(GCC)でマシンイプシロンを求めたいとき、 floatとdoubleで同じ値が表示されるというわけの分からない状態になったのを目撃した。

x86系CPUの浮動小数点演算用レジスタはなぜか80bitなので、わけわからないことになるのかもしれない。

GCCのコンパイラオプション-ffloat-storeをつけてコンパイルすることでうまくいった。