編集履歴:過去のバージョン

2008/02/10 03:18:05 JST時点でのNote:HSP3標準ライブラリ:math.asの内容

現在のバージョンとの差分を見る

編集履歴ページに戻る

  - タブ幅4に合わせてあります。globalはわざと抜いてます。
  - 0.0+(%1)も既に比較されてます？（1.0*(%1)よりは速いかなと思うんだけど。)
  - DBL_MANT_DIGは53ではなく52が正しいのではないでしょうか？
  -- 参考：http://ja.wikipedia.org/wiki/IEEE754
  - 仮数部は内部表現(メモリイメージ)では52ビットですが、最上位ビットが常に1になるように正規化されていてそのビットが省略された形で格納されているので、実際の表現精度は53ビットになります。
  -- なるほど、省略されたビットを含めて53なのですね。理解できました。ありがとうございました。