読者です 読者をやめる 読者になる 読者になる

FPU

FPUのことあまり知らない。IEEE浮動小数点の誤差とか昔やった気がするけど、よく覚えていないことに気づいてから触れるのを避けてた。
でも丸めモードのコンパイラオプションで計算した値が変わるとかは詳しく知ってないとヤバイ。せっかく保存していたデータと違った計算結果になったりすると最悪だ。