[Top Page][Edit][Article][Edit History][All Pages][Recent Changes][->Japanese]

Note:HSP3標準ライブラリ:math.as

  • タブ幅4に合わせてあります。globalはわざと抜いてます。
  • 0.0+(%1)も既に比較されてます?(1.0*(%1)よりは速いかなと思うんだけど。)
  • DBL_MANT_DIGは53ではなく52が正しいのではないでしょうか?
  • 仮数部は内部表現(メモリイメージ)では52ビットですが、最上位ビットが常に1になるように正規化されていてそのビットが省略された形で格納されているので、実際の表現精度は53ビットになります。
    • なるほど、省略されたビットを含めて53なのですね。理解できました。ありがとうございました。