More ... | 編集履歴:差分2007/12/31 01:53:48 JST以来のNote:HSP3標準ライブラリ:math.asの変更箇所
- タブ幅4に合わせてあります。globalはわざと抜いてます。 - 0.0+(%1)も既に比較されてます?(1.0*(%1)よりは速いかなと思うんだけど。) - DBL_MANT_DIGは53ではなく52が正しいのではないでしょうか? -- 参考:http://ja.wikipedia.org/wiki/IEEE754 - 仮数部は内部表現(メモリイメージ)では52ビットですが、最上位ビットが常に1になるように正規化されていてそのビットが省略された形で格納されているので、実際の表現精度は53ビットになります。 + -- なるほど、省略されたビットを含めて53なのですね。理解できました。ありがとうございました。 + + + |